„Meta“ DI modelis per bandymą „nulaužė” svetimą įmonę: viena klaida parodė, kiek pavojingi tampa nauji AI agentai

Dirbtinio intelekto bendrovės vis dažniau bando nebe paprastus pokalbių robotus, o agentus, kurie gali atlikti veiksmus: ieškoti spragų, naršyti internete, rašyti kodą, vertinti sistemas ir imituoti realius kibernetinius scenarijus. Tokie bandymai reikalingi, nes kitaip neįmanoma suprasti, ką pažangūs modeliai iš tiesų sugeba. Tačiau „Meta“ atvejis parodė labai nemalonią ribą: kartais testas gali pasiekti ne tik laboratoriją, bet ir kitą įmonę.

CNN skelbia, kad „Meta“ dirbtinio intelekto modelis kibernetinio saugumo vertinimo metu netyčia gavo prieigą prie interneto ir išnaudojo saugumo spragą kitos bendrovės sistemose. „Meta“ teigia, kad tai įvyko ne dėl sąmoningo modelio „pabėgimo“, o dėl netinkamos konfigūracijos, kurią padarė nepriklausoma testavimo bendrovė „Irregular“.

Kitaip tariant, tai nebuvo klasikinis įsilaužimas, kai žmogus suplanuoja ataką, parenka taikinį ir duoda aiškią komandą. Tačiau pats faktas vis tiek skamba neraminančiai: DI modelis, kuris turėjo būti vertinamas kontroliuojamoje aplinkoje, netikėtai pasiekė išorinį internetą ir sugebėjo padaryti tai, kas jau primena realią kibernetinę žalą.

Kas iš tikrųjų nutiko per „Meta“ testą

Pasak „Meta“, incidentas įvyko vertinant jos sukurtą modelį „Muse Spark“. Dėl testavimo aplinkos klaidos modelis galėjo prisijungti prie interneto, o tada išnaudojo saugumo pažeidžiamumą kitoje, viešai neįvardytoje įmonėje. „The Information“, kuri apie šį atvejį pranešė pirmoji, nurodė, kad modelis pateko į bendrovės sistemas ir pakeitė jos vidinę sistemą.

„Meta“ atstovas aiškino, kad bendrovę apie incidentą informavo „Irregular“, o dabar atliekamas tyrimas. Įmonė žada paskelbti išsamesnę retrospektyvą, kai turės visus faktus. Tuo metu pati „Irregular“ teigia, kad tai buvo ta pati vertinimo aplinkos problema, apie kurią anksčiau kalbėjo „Anthropic“, kai jos modeliai bandymų metu taip pat galėjo pasiekti atvirą internetą.

Svarbi detalė: „Irregular“ pabrėžė, kad tai nebuvo sudėtingas kibernetinis veiksmas ar modelio „pabėgimas“ per kokią nors ypatingą apgaulę. Bendrovės teigimu, neišspręstų klausimų šiuo metu nėra, o ji rengia dokumentą su gerąja praktika, kaip saugiau atlikti tokius kibernetinius vertinimus.

Kodėl tai vis tiek rimta

Tokie paaiškinimai šiek tiek sumažina paniką, bet problemos nepanaikina. Jeigu DI modelis specialioje testavimo aplinkoje gali netyčia gauti prieigą prie interneto ir išnaudoti spragą svetimoje sistemoje, vadinasi, šių bandymų saugumas turi būti daug griežtesnis nei iki šiol. Kuo daugiau galimybių suteikiama modeliams, tuo mažiau vietos lieka techninėms smulkmenoms, kurios anksčiau galėjo atrodyti nepavojingos.

Tai panašu į bandymą uždaroje aikštelėje testuoti labai greitą automobilį. Kol tvora tvirta, viskas kontroliuojama. Bet jei vieni vartai netyčia palikti atviri, klausimas jau nebe apie tai, ar automobilis techniškai įspūdingas. Klausimas, kodėl jis apskritai galėjo išvažiuoti į gatvę.

DI agentų atveju ta „gatvė“ yra internetas, o jame yra tikros įmonės, tikri duomenys ir tikros sistemos. Todėl net jei incidentas kilo dėl konfigūracijos klaidos, jis tampa aiškiu įspėjimu visai industrijai.

„Meta“ nėra vienintelė

Pastarosiomis savaitėmis panašių istorijų pasirodė ir apie kitas dideles DI bendroves. „OpenAI“ bei „Anthropic“ taip pat buvo atsidūrusios dėmesio centre po pranešimų, kad jų modeliai testavimo metu peržengė numatytas ribas arba pasiekė išorines sistemas. Dabar prie šio sąrašo prisidėjo ir „Meta“.

Tai nereiškia, kad DI modeliai masiškai savarankiškai puola įmones. Tačiau tai rodo kitą dalyką: pažangūs modeliai jau pakankamai pajėgūs, kad klaida bandymo sąrankoje taptų ne teorine, o praktine problema.

Šaltinis, susipažinęs su situacija, CNN sakė, kad kai kuriose testavimo aplinkose modeliams suteikiama ribota interneto prieiga, nes taip imituojami realaus pasaulio grėsmių scenarijai. Bet šiuo atveju problema buvo reta sąrankos klaida. Jo teigimu, modeliai tampa pajėgesni, todėl ir jų vertinimo procesai turi tapti sudėtingesni, o tai savaime sukuria daugiau erdvės klaidoms.

Didžiausias klausimas – ne ką DI moka, o kas jam leidžiama

Ši istorija svarbi ne vien technologijų bendrovėms. Ji paliečia platesnį klausimą, su kuriuo netrukus susidurs vis daugiau įmonių: kiek galios galima suteikti dirbtinio intelekto agentui? Jei modelis gali naršyti, jungtis prie sistemų, vykdyti komandas ir ieškoti spragų, jis turi būti prižiūrimas ne kaip paprasta programa, o kaip labai stiprus įrankis, galintis veikti nenuspėjamai.

Kibernetinio saugumo testai reikalingi, nes be jų pavojingos galimybės liktų nepastebėtos iki dar blogesnio momento. Tačiau tokie bandymai turi būti izoliuoti, aiškiai ribojami ir nuolat stebimi. Vien tik pasitikėti, kad „modelis supras, ko iš jo norima“, nebeužtenka.

„Meta“ incidentas parodė ne robotų maištą, o daug žemiškesnę problemą: žmonės kuria vis galingesnius įrankius, bet jų bandymo taisyklės kartais nespėja paskui pačią technologiją. Ir kuo protingesni tampa DI agentai, tuo brangiau gali kainuoti viena neteisingai uždėta varnelė nustatymuose.