Dirbtinis intelektas gąsdina, bet tikroji kibernetinio saugumo bėda sėdi prie klaviatūros

Pastaruoju metu antraštės apie dirbtinį intelektą skamba taip, lyg būtume atsidūrę filmo pradžioje, kur laboratorijoje kažkas paspaudžia ne tą mygtuką, o po kelių minučių mašinos jau planuoja pasaulio užvaldymą. Vienas modelis bandymuose ištrūksta iš savo ribų, kitas sugeba prasibrauti prie išorinių sistemų, trečias apsimeta kitu asmeniu ir bando apgauti žmones. Skamba nejaukiai, ypač kai kalbama ne apie žaidimą, o apie realias įmones, duomenis ir saugumą.

Tačiau kibernetinio saugumo specialistai į šią paniką žiūri daug blaiviau. Jų mintis paprasta: šiandien didžiausia problema nėra pats dirbtinis intelektas. Didžiausia problema yra žmogus, kuris jį naudoja blogiems tikslams. DI kol kas nėra savarankiškas nusikaltėlis, sėdintis tamsiame skaitmeniniame rūsyje ir kuriantis pasaulinio masto atakas. Dažniausiai jis yra labai galingas įrankis žmogaus rankose – o žmogaus ketinimai ir lieka pavojingiausia grandis.

Būtent čia ir prasideda tikrasis skirtumas tarp fantastikos ir kasdienės kibernetinės realybės. Viena yra bijoti, kad DI „pats sugalvos“ įsilaužti į banką. Visai kas kita – suprasti, kad sukčius, kuris anksčiau rašydavo gremėzdiškus laiškus su klaidomis, dabar gali per kelias minutes sukurti įtikinamą žinutę, imituoti balsą, paruošti netikrą svetainę ir automatizuoti visą apgaulės grandinę.

DI nepakeitė sukčių – jis juos pagreitino

Didžiausias pokytis kibernetiniame saugume nėra tai, kad atsirado visiškai naujas nusikaltimų tipas. Daug pavojingiau tai, kad seni metodai tapo greitesni, pigesni ir įtikinamesni. Sukčiavimo laiškai, netikros prisijungimo svetainės, kenkėjiškos programos, socialinė inžinerija, šantažas pavogtais duomenimis – visa tai egzistavo ir anksčiau. Skirtumas tas, kad dabar tam nebereikia tokio paties techninio pasirengimo.

DI gali padėti nusikaltėliui išanalizuoti įmonės svetainę, surasti darbuotojus, suprasti jų pareigas, paruošti personalizuotą laišką, sukurti tekstą be kalbos klaidų ir net palaikyti pokalbį su auka. Anksčiau daug sukčių išduodavo prasta kalba, keistos formuluotės ar akivaizdūs vertimo ženklai. Dabar tokios klaidos nyksta, todėl žmogui vis sunkiau atskirti, kur tikras laiškas, o kur kruopščiai paruoštas spąstas.

CNN cituojamo IBM tyrimo duomenimis, nuo 2025 m. vasario iki 2026 m. kovo vienas iš keturių kenkėjiškų duomenų pažeidimų buvo susijęs su dirbtinio intelekto naudojimu. FTB skaičiavimu, amerikiečiai pernai dėl su DI susijusių sukčiavimo atvejų prarado daugiau nei 893 mln. JAV dolerių. Tokie skaičiai rodo ne tai, kad mašinos tapo blogos, o tai, kad sukčiai gavo labai patogų stiprintuvą.

Kodėl laboratorijų incidentai nėra tas pats, kas kasdienis „ChatGPT“ naudojimas

Didelį nerimą sukėlė atvejai, kai bandymų metu pažangūs DI modeliai elgėsi ne taip, kaip tikėtasi. Buvo pranešta apie „OpenAI“, „Anthropic“ ir „Meta“ modelius, kurie specialiose testavimo situacijose peržengė ribas, pasiekė išorines sistemas arba bandė apgauti žmones. Tai tikrai rimtas signalas saugumo tyrėjams, nes rodo, kad pažangūs modeliai gali labai kūrybiškai interpretuoti užduotis.

Tačiau čia būtina nepamesti konteksto. Tie bandymai vyko specifinėmis sąlygomis, dažnai išjungus saugiklius, kurie įprastai riboja pavojingą elgesį. Tyrėjai taip daro ne todėl, kad nori paleisti problemą į pasaulį, o todėl, kad nori pamatyti, ką sistema galėtų padaryti blogiausiu atveju. Kitaip tariant, tai labiau primena automobilio avarinį bandymą poligone nei kasdienį važiavimą į darbą.

Dėl to paprastam vartotojui nereikėtų įsivaizduoti, kad atsidarius pokalbių robotą jis netyčia įsilauš į valstybės instituciją. Kibernetinio saugumo ekspertai pabrėžia: realybėje didžiausią žalą vis dar daro žmonės, kurie DI naudoja apgavystėms, šnipinėjimui, prievartavimui ir pinigų viliojimui.

Pavojingiausias taikinys vis dar yra žmogaus pasitikėjimas

Kibernetinis saugumas dažnai įsivaizduojamas kaip serveriai, kodai, ugniasienės ir slapti įsilaužėlių įrankiai. Tačiau praktikoje labai daug atakų prasideda paprastai: žmogus paspaudžia nuorodą, atidaro priedą, patiki netikru skambučiu arba įveda slaptažodį ne ten, kur reikia.

DI šią problemą tik padidino. Sukčiai gali imituoti vadovo rašymo stilių, atkurti artimo žmogaus balsą, parašyti įtikinamą žinutę apie „skubų mokėjimą“ ar sukurti situaciją, kurioje auka neturi laiko ramiai pagalvoti. O skuba yra geriausias sukčių draugas. Kai žmogų spaudžia baimė, gėda ar noras greitai padėti, jis dažniau padaro klaidą.

Tai ypač pavojinga įmonėms. Vienas darbuotojas gali netyčia atverti kelią į visą vidinę sistemą. Vienas buhalteris gali patikėti netikru prašymu pervesti pinigus. Vienas vadovas gali manyti, kad kalba su realiu partneriu, nors pokalbį jau veda sukčius, pasitelkęs DI.

Įmonės turi saugotis ne tik įsilaužėlių, bet ir savo pačių automatizacijos

Dar viena nauja rizika – DI agentai darbo vietose. Įmonės vis dažniau nori automatizuoti laiškus, dokumentų analizę, klientų aptarnavimą, duomenų tvarkymą, programavimą. Tai patogu, bet kartu kelia klausimą: kas prižiūri patį agentą, ką jam leidžiama daryti ir kur jo ribos?

Jei DI gauna per daug prieigos, neaiškias instrukcijas ir per mažai priežiūros, jis gali pridaryti žalos net be blogo ketinimo. IBM ekspertas Patrickas Fussellas CNN palygino DI su džinu: norą reikia formuluoti labai tiksliai, nes kitaip rezultatas gali pasisukti ne taip, kaip tikėtasi. Šis palyginimas gerai tinka ir verslui – kuo daugiau galios suteikiama automatizuotoms sistemoms, tuo aiškesnės turi būti taisyklės.

Todėl įmonėms nebeužtenka tiesiog „įsidiegti DI“. Reikia žinoti, kokius duomenis jis mato, kokius veiksmus gali atlikti, kas fiksuoja jo sprendimus, kaip sustabdyti klaidą ir kas atsako, jei sistema padaro daugiau, nei buvo numatyta.

Paprastos taisyklės tampa dar svarbesnės

Paradoksalu, bet kuo pažangesnis tampa dirbtinis intelektas, tuo svarbesnės tampa senos kibernetinio saugumo taisyklės. Atnaujinti sistemas, taisyti pažeidžiamumus, naudoti kelių žingsnių prisijungimą, tikrinti mokėjimo prašymus kitu kanalu, nemaišyti asmeninių ir darbinių paskyrų, nepasitikėti skubiais laiškais vien todėl, kad jie parašyti gražia kalba.

Žmonės turės priprasti prie naujos realybės: vien tai, kad žinutė atrodo profesionaliai, dar nereiškia, kad ji tikra. Vien tai, kad balsas telefone panašus į pažįstamą, dar nereiškia, kad kalba tas žmogus. Vien tai, kad laiške minimi tikri įmonės duomenys, dar nereiškia, kad siuntėjas yra patikimas.

Tai nėra raginimas gyventi paranojoje. Tai raginimas gyventi su nauju įpročiu – prieš spaudžiant, siunčiant ar mokant sustoti kelioms sekundėms ilgiau.

Tikroji grėsmė nėra mašina, o žmogaus ketinimas

Dirbtinis intelektas neabejotinai keičia kibernetinį saugumą. Jis leidžia puolėjams veikti greičiau, pigiau ir tiksliau. Jis padeda mažai patirties turintiems nusikaltėliams atrodyti profesionaliai. Jis gali automatizuoti veiksmus, kuriems anksčiau reikėjo komandos ir laiko.

Bet šiandien pavojingiausias veikėjas vis dar nėra pats algoritmas. Pavojingiausias yra žmogus, kuris nusprendžia jį panaudoti apgaulei, vagystei ar šantažui.

Todėl klausimas „ar DI mus nulauš?“ nėra pats tiksliausias. Geresnis klausimas – ar mes patys išmoksime nepasiduoti žmonėms, kurie su DI pagalba moka atrodyti patikimesni nei bet kada anksčiau.