Pažadas vilioja – dirbtinis intelektas, kuris gali atlikti darbus už jus, valdyti programas, naršyti internete ir vykdyti komandas taip, lyg pats sėdėtumėte prie kompiuterio. Tačiau kartu su patogumu ateina ir rizika, apie kurią saugumo specialistai kalba vis garsiau. Naujas DI agentas sparčiai populiarėja, bet kartu kelia klausimą, kurio daugelis vartotojų dar nespėjo sau užduoti: ar tikrai saugu leisti programai perimti visišką jūsų kompiuterio kontrolę?
Pastarosiomis savaitėmis sparčiai išpopuliarėjo dirbtinio intelekto agentas „OpenClaw“. Juo jau naudojasi tūkstančiai žmonių, siekiančių automatizuoti kasdienes užduotis. Skirtingai nei įprasti pokalbių robotai, šis sprendimas veikia lokaliai ir turi realią prieigą prie sistemos – jis gali atidaryti ir kurti failus, valdyti programas, naršyti internete ir net vykdyti komandas terminale. Instrukcijos agentui siunčiamos per populiarias susirašinėjimo platformas, o fone galima pasirinkti įvairius dirbtinio intelekto modelius.
Būtent čia ir slypi problema. Kad agentas veiktų efektyviai, jam būtina labai plati prieiga prie jūsų kompiuterio. Tai reiškia, kad bet koks piktnaudžiavimas ar klaida tampa ne teorine, o praktine grėsme.
Kai viena žinutė pakeičia jūsų nurodymus
Saugumo ekspertai atkreipia dėmesį į vadinamąsias „prompt injection“ atakas. Paprastai tariant, tai būdas apgauti dirbtinį intelektą taip, kad jis ignoruotų jūsų originalias instrukcijas ir vykdytų visiškai kitus veiksmus. Jei agentas geba spustelėti, patvirtinti ir vykdyti komandas jūsų vardu, pakanka vieno gudriai suformuluoto teksto, kad jis pradėtų sekti kenksmingas nuorodas, atsisiųsti failus ar keisti sistemos nustatymus.
Tai jau nebe situacija, kai pokalbių robotas pateikia netikslų atsakymą. Čia kalbama apie realius veiksmus realioje sistemoje, kurie gali atverti kelią tolesnėms atakoms.
Pavojus slypi ne pačiame agente, o jo prieduose
Didžiausią nerimą kelia „OpenClaw“ palaikomi papildomi įgūdžiai – priedai, suteikiantys agentui naujų funkcijų. Jie platinami per atskirą prekyvietę, kurioje priedus gali publikuoti praktiškai bet kas. Tai reiškia, kad pasitikėjimo ir patikros mechanizmai tampa itin silpni.
Saugumo specialistai jau aptiko atvejų, kai populiarūs priedai atrodė visiškai nekalti, tačiau juose buvo paslėpta kenkėjiška programinė įranga. Vienas plačiai atsisiųstas priedas apsimetė funkcija, susijusia su socialiniais tinklais, tačiau realiai buvo sukurtas tam, kad atsisiųstų kenkėjišką failą ir apeitų apsaugos mechanizmus. Agentas buvo apgautas pats inicijuoti veiksmų grandinę, kuri galiausiai atvėrė kelią sistemos kompromitavimui.
Ypač pavojinga tai, kad tokios atakos gali būti maskuojamos kaip visiškai nekenksmingi tekstiniai failai ar paprastos instrukcijos. Vartotojas nemato jokio įspėjimo signalo, kol pasekmės jau būna neišvengiamos.
Kampanijos mastas kelia įtarimų
Keli saugumo tyrėjai praneša apie didelį kiekį įtartinų priedų, kurie per trumpą laiką pasirodė toje pačioje ekosistemoje. Dalis jų apsimeta naudingais įrankiais, įskaitant su kriptovaliutomis susijusias funkcijas. Tokie priedai realiai gali siekti išgauti naršyklės duomenis, išsaugotus slaptažodžius, asmeninius failus ar net pasiekti kriptovaliutų pinigines.
Tai ne pavieniai atvejai, o struktūrinė problema, kylanti tada, kai dirbtiniam intelektui suteikiama per daug teisių, o priedų ekosistema vystoma greičiau nei saugumo kontrolės mechanizmai.
Kūrėjai reaguoja, bet rizika niekur nedingsta
„OpenClaw“ kūrėjas jau paskelbė apie planus griežtinti priedų publikavimo taisykles. Tarp svarstomų priemonių – reikalavimas, kad kūrėjai turėtų tam tikrą laiką veikiančias paskyras, siekiant apsunkinti masinį kenkėjiškų priedų platinimą. Tačiau patys saugumo specialistai pripažįsta, jog tai tik sulėtins piktnaudžiavimą, bet jo nepanaikins. Kenkėjiškas kodas gali būti platinamas ir iš paskyrų, kurios atrodo visiškai patikimos.
Todėl bendras vertinimas kol kas vienareikšmis: technologija įspūdinga, bet jos diegimas aplenkė brandžius saugumo sprendimus. Dirbtinis intelektas, galintis valdyti jūsų kompiuterį, nėra tik dar viena programėlė. Tai sprendimas, kuris, patekęs į netinkamas rankas ar suklaidintas viena žinute, gali tapti tiesioginiu keliu prie jūsų duomenų.
Šaltinis: https://www.tek.no/nyheter/nyhet/i/bOzVwq/dette-er-openclaw
