Mākslīgais intelekts biedē, bet īstā kiberdrošības problēma sēž pie tastatūras

Pēdējā laikā virsraksti par mākslīgo intelektu skan tā, it kā mēs būtu nonākuši filmas sākumā, kur laboratorijā kāds nospiež nepareizo pogu, bet pēc dažām minūtēm mašīnas jau plāno pārņemt pasauli. Viens modelis testēšanas laikā izkļūst ārpus savām robežām, cits spēj piekļūt ārējām sistēmām, trešais izliekas par citu personu un mēģina apmānīt cilvēkus. Tas izklausās neomulīgi, īpaši tad, kad runa nav par spēli, bet gan par reāliem uzņēmumiem, datiem un drošību.

Tomēr kiberdrošības speciālisti uz šo paniku raugās daudz skaidrāk. Viņu doma ir vienkārša: šodien lielākā problēma nav pats mākslīgais intelekts. Lielākā problēma ir cilvēks, kurš to izmanto sliktiem mērķiem. MI pagaidām nav patstāvīgs noziedznieks, kas sēž tumšā digitālā pagrabā un veido globāla mēroga uzbrukumus. Visbiežāk tas ir ļoti spēcīgs rīks cilvēka rokās – un cilvēka nodomi joprojām ir visbīstamākais posms.

Tieši šeit sākas īstā atšķirība starp fantastiku un ikdienas kiberdrošības realitāti. Viena lieta ir baidīties, ka MI „pats izdomās” uzlauzt banku. Pavisam kas cits – saprast, ka krāpnieks, kurš agrāk rakstīja neveiklas vēstules ar kļūdām, tagad dažās minūtēs var izveidot pārliecinošu ziņu, atdarināt balsi, sagatavot viltotu tīmekļa vietni un automatizēt visu krāpšanas ķēdi.

MI neaizstāja krāpniekus – tas viņus paātrināja

Lielākās pārmaiņas kiberdrošībā nav tādas, ka būtu parādījies pilnīgi jauns noziegumu veids. Daudz bīstamāk ir tas, ka vecās metodes kļuvušas ātrākas, lētākas un pārliecinošākas. Krāpnieciskas vēstules, viltotas pieteikšanās vietnes, ļaunprogrammatūra, sociālā inženierija, šantāža ar nozagtiem datiem – tas viss pastāvēja arī iepriekš. Atšķirība ir tā, ka tagad tam vairs nav nepieciešama tāda pati tehniskā sagatavotība.

MI var palīdzēt noziedzniekam izanalizēt uzņēmuma tīmekļa vietni, atrast darbiniekus, izprast viņu pienākumus, sagatavot personalizētu vēstuli, izveidot tekstu bez valodas kļūdām un pat uzturēt sarunu ar upuri. Agrāk daudzus krāpniekus nodeva slikta valoda, dīvaini formulējumi vai acīmredzamas tulkojuma pazīmes. Tagad šādu kļūdu kļūst mazāk, tāpēc cilvēkam kļūst arvien grūtāk atšķirt, kur ir īsta vēstule, bet kur – rūpīgi sagatavotas lamatas.

Saskaņā ar IBM pētījuma datiem, ko citē CNN, no 2025. gada februāra līdz 2026. gada martam viens no četriem ļaunprātīgas datu noplūdes gadījumiem bija saistīts ar mākslīgā intelekta izmantošanu. Pēc FIB aplēsēm amerikāņi pagājušajā gadā ar MI saistītas krāpšanas dēļ zaudēja vairāk nekā 893 miljonus ASV dolāru. Šādi skaitļi neliecina, ka mašīnas būtu kļuvušas ļaunas, bet gan to, ka krāpnieki ir ieguvuši ļoti ērtu pastiprinātāju.

Kāpēc incidenti laboratorijās nav tas pats, kas ikdienas „ChatGPT” izmantošana

Lielu satraukumu izraisīja gadījumi, kad testēšanas laikā progresīvi MI modeļi rīkojās ne tā, kā bija paredzēts. Tika ziņots par „OpenAI”, „Anthropic” un „Meta” modeļiem, kuri īpašās testēšanas situācijās pārkāpa robežas, piekļuva ārējām sistēmām vai mēģināja apmānīt cilvēkus. Tas kiberdrošības pētniekiem patiešām ir nopietns signāls, jo parāda, ka progresīvi modeļi uzdevumus var interpretēt ļoti radoši.

Tomēr šeit ir būtiski nezaudēt kontekstu. Šie testi notika specifiskos apstākļos, bieži vien atslēdzot drošības mehānismus, kas parasti ierobežo bīstamu uzvedību. Pētnieki tā rīkojas nevis tāpēc, ka vēlas palaist problēmu pasaulē, bet gan tāpēc, lai redzētu, ko sistēma sliktākajā gadījumā varētu izdarīt. Citiem vārdiem sakot, tas vairāk atgādina automašīnas avārijas testu poligonā, nevis ikdienas braucienu uz darbu.

Tāpēc parastam lietotājam nevajadzētu iedomāties, ka, atverot sarunu robotu, tas nejauši uzlauzīs valsts iestādi. Kiberdrošības eksperti uzsver: realitātē vislielāko kaitējumu joprojām nodara cilvēki, kuri MI izmanto krāpšanai, spiegošanai, izspiešanai un naudas izvilināšanai.

Bīstamākais mērķis joprojām ir cilvēka uzticēšanās

Kiberdrošību bieži iztēlojas kā serverus, kodus, ugunsmūrus un slepenus hakeru rīkus. Tomēr praksē ļoti daudzi uzbrukumi sākas pavisam vienkārši: cilvēks noklikšķina uz saites, atver pielikumu, notic viltus zvanam vai ievada paroli ne tur, kur vajadzētu.

MI šo problēmu tikai pastiprināja. Krāpnieki var atdarināt vadītāja rakstīšanas stilu, atveidot tuva cilvēka balsi, uzrakstīt pārliecinošu ziņu par „steidzamu maksājumu” vai radīt situāciju, kurā upurim nav laika mierīgi padomāt. Bet steiga ir labākais krāpnieku draugs. Kad cilvēku nospiež bailes, kauns vai vēlme ātri palīdzēt, viņš biežāk pieļauj kļūdu.

Tas ir īpaši bīstami uzņēmumiem. Viens darbinieks var nejauši atvērt ceļu uz visu iekšējo sistēmu. Viens grāmatvedis var noticēt viltotam lūgumam pārskaitīt naudu. Viens vadītājs var uzskatīt, ka runā ar īstu partneri, lai gan sarunu jau vada krāpnieks, izmantojot MI.

Uzņēmumiem jāuzmanās ne tikai no hakeriem, bet arī no pašu automatizācijas

Vēl viens jauns risks ir MI aģenti darba vietās. Uzņēmumi arvien biežāk vēlas automatizēt vēstuļu rakstīšanu, dokumentu analīzi, klientu apkalpošanu, datu apstrādi un programmēšanu. Tas ir ērti, bet vienlaikus rada jautājumu: kas uzrauga pašu aģentu, ko tam ir atļauts darīt un kur atrodas tā robežas?

Ja MI saņem pārāk plašu piekļuvi, neskaidras instrukcijas un pārāk mazu uzraudzību, tas var nodarīt kaitējumu pat bez ļauna nodoma. IBM eksperts Patriks Fūsels CNN salīdzināja MI ar džinu: vēlme jāformulē ļoti precīzi, jo citādi rezultāts var izrādīties citāds, nekā gaidīts. Šis salīdzinājums labi attiecas arī uz uzņēmējdarbību – jo lielāka vara tiek piešķirta automatizētām sistēmām, jo skaidrākiem jābūt noteikumiem.

Tāpēc uzņēmumiem vairs nepietiek vienkārši „ieviest MI”. Ir jāzina, kādus datus tas redz, kādas darbības var veikt, kas reģistrē tā lēmumus, kā apturēt kļūdu un kas ir atbildīgs, ja sistēma izdara vairāk, nekā bija paredzēts.

Vienkārši noteikumi kļūst vēl svarīgāki

Paradoksāli, bet, jo progresīvāks kļūst mākslīgais intelekts, jo svarīgāki kļūst vecie kiberdrošības noteikumi. Atjaunināt sistēmas, novērst ievainojamības, izmantot daudzpakāpju pieteikšanos, pārbaudīt maksājumu pieprasījumus citā kanālā, nejaukt personīgos un darba kontus, neuzticēties steidzamām vēstulēm tikai tāpēc, ka tās ir uzrakstītas labā valodā.

Cilvēkiem būs jāpierod pie jaunās realitātes: tas vien, ka ziņa izskatās profesionāla, vēl nenozīmē, ka tā ir īsta. Tas vien, ka balss tālrunī līdzinās pazīstama cilvēka balsij, vēl nenozīmē, ka runā šis cilvēks. Tas vien, ka vēstulē minēti īsti uzņēmuma dati, vēl nenozīmē, ka sūtītājs ir uzticams.

Tas nav aicinājums dzīvot paranojā. Tas ir aicinājums dzīvot ar jaunu ieradumu – pirms noklikšķināt, sūtīt vai maksāt, apstāties uz dažām sekundēm ilgāk.

Īstais drauds nav mašīna, bet cilvēka nodoms

Mākslīgais intelekts neapšaubāmi maina kiberdrošību. Tas ļauj uzbrucējiem rīkoties ātrāk, lētāk un precīzāk. Tas palīdz noziedzniekiem ar mazu pieredzi izskatīties profesionāli. Tas var automatizēt darbības, kurām agrāk bija nepieciešama komanda un laiks.

Taču šodien visbīstamākais darītājs joprojām nav pats algoritms. Visbīstamākais ir cilvēks, kurš nolemj to izmantot krāpšanai, zādzībai vai šantāžai.

Tāpēc jautājums „vai MI mūs uzlauzīs?” nav pats precīzākais. Labāks jautājums ir – vai mēs paši iemācīsimies neļaut sevi apmānīt cilvēkiem, kuri ar MI palīdzību spēj izskatīties uzticamāki nekā jebkad agrāk.