Dirbtinio intelekto įrankiai, galintys iš tikrų žmonių nuotraukų kurti netikrus nuogus vaizdus ar pornografinius vaizdo įrašus, netrukus gali būti uždrausti visoje Europos Sąjungoje. Naujos taisyklės taikysis į „deepfake“ pornografiją ir vadinamąsias „nusirengimo“ programėles, kurios pastaraisiais metais tapo lengvai pasiekiamos paprastiems vartotojams.
Kodėl ES imasi šio draudimo?
Problema tapo ypač aštri dėl sparčiai plintančių dirbtinio intelekto įrankių, kurie leidžia manipuliuoti tikrų žmonių atvaizdais. Tokios programos gali įterpti žmogaus veidą į pornografinį vaizdo įrašą, pakeisti balsą arba iš įprastos nuotraukos sukurti netikrą nuogą vaizdą.
Iš pirmo žvilgsnio tai gali atrodyti kaip dar viena technologinė manipuliacija, tačiau reali žala yra labai rimta. Tokie vaizdai gali būti naudojami šantažui, patyčioms, reputacijos griovimui, seksualiniam pažeminimui ar smurtui internete. Žmogus gali niekada nebūti pozavęs nuogas, bet jo atvaizdas gali būti panaudotas taip, kad kitiems atrodytų tikras.
Būtent sutikimo nebuvimas čia yra esminė problema. Net jei vaizdas techniškai sukurtas dirbtiniu intelektu, naudojamas tikro žmogaus veidas, kūnas ar tapatybė. Todėl tai nebėra „nekaltas filtras“ ar pramoga – tai asmens privatumo ir orumo pažeidimas.
Nauju draudimu ES siekia sustabdyti ne tik tokių vaizdų plitimą, bet ir pačių įrankių prieinamumą. Kitaip tariant, taikinyje atsiduria ne vien tie, kurie kuria ar platina netikrą seksualinį turinį, bet ir platformos bei programėlės, kurios suteikia galimybę tai daryti.
„Nusirengimo“ programėlės tapo per lengvai pasiekiamos
Ypač daug nerimo kelia vadinamosios „nusirengimo“ programėlės. Jos veikia labai paprastai: vartotojas įkelia žmogaus nuotrauką, o dirbtinis intelektas sukuria versiją, kurioje tas žmogus atrodo nuogas arba seksualizuotas.
Tokios paslaugos pastaraisiais metais buvo randamos interneto svetainėse ir net programėlių parduotuvėse. Tai reiškia, kad priemonės, galinčios rimtai pakenkti žmogui, tapo prieinamos ne tik uždaroms grupėms ar technologijų specialistams, bet beveik bet kam.
Tai ypač pavojinga paaugliams ir jauniems žmonėms. Tokios programėlės gali būti naudojamos mokyklose, socialiniuose tinkluose, pažįstamų grupėse ar prieš buvusius partnerius. Netikras vaizdas gali išplisti labai greitai, o jo pašalinimas iš interneto dažnai tampa sudėtingas arba beveik neįmanomas.
Vienas mygtuko paspaudimas gali sukurti turinį, kuris žmogų persekios metų metus. Todėl ES siekia nebeapsiriboti vien įspėjimais ar platformų pažadais pačios susitvarkyti.
Naujos taisyklės turėtų apimti ir medžiagą, susijusią su seksualine prievarta prieš vaikus. Tai reiškia, kad DI įrankiai, galintys generuoti ar modifikuoti tokio pobūdžio turinį, būtų vertinami itin griežtai.
Technologijų bendrovėms teks prisiimti daugiau atsakomybės
Pastaruoju metu viešai daug kalbėta apie tai, kad didžiosiose programėlių parduotuvėse buvo galima rasti programėlių, kuriančių netikrus nuogus vaizdus. Po kritikos kai kurios jų buvo pašalintos, tačiau pats faktas parodė didesnę problemą: pavojingi įrankiai į rinką patenka greičiau, nei platformos spėja juos sustabdyti.
Būtent todėl naujas draudimas gali pakeisti atsakomybės ribas. Technologijų bendrovės nebegalės apsimesti, kad tai tik pavienių vartotojų problema. Jei jų platformose platinamos programėlės, leidžiančios kurti seksualizuotus vaizdus be žmogaus sutikimo, jos turės imtis aiškių veiksmų.
Europos Komisijos atstovai pabrėžia, kad ES nenori stabdyti dirbtinio intelekto inovacijų. Tačiau kartu siekiama, kad technologijos nebūtų naudojamos žmonių pažeminimui, išnaudojimui ar seksualiniam smurtui skaitmeninėje erdvėje.
Tai ir yra pagrindinis balansas: skatinti dirbtinio intelekto vystymąsi, bet neleisti, kad galingi įrankiai taptų masinio piktnaudžiavimo priemone.
DI pats savaime nėra problema. Problema prasideda tada, kai jis naudojamas be žmogaus sutikimo kurti intymų, žeminantį ar seksualizuotą turinį.
Kada draudimas gali įsigalioti?
Kad naujos taisyklės galutinai įsigaliotų, jas dar turi oficialiai patvirtinti Europos Parlamentas ir valstybės narės. Tai laikoma formaliu etapu, nes politinis susitarimas dėl draudimo jau pasiektas.
Jei procesas vyks pagal numatytą eigą, įmonės turės laiko prisitaikyti prie naujų reikalavimų iki 2026 m. gruodžio 2 d. Tai reiškia, kad programėlių kūrėjams, platformoms ir paslaugų tiekėjams teks peržiūrėti savo produktus, moderavimo sistemas ir turinio kontrolės taisykles.
Vartotojams ši žinia svarbi dėl vienos labai aiškios priežasties: skaitmeninis smurtas vis dažniau atrodo ne kaip tiesioginė fizinė grėsmė, o kaip vaizdas, failas, nuotrauka ar nuoroda. Tačiau jo pasekmės žmogui gali būti visiškai realios.
Netikri intymūs vaizdai gali sugriauti reputaciją, sukelti psichologinę žalą, tapti patyčių ar šantažo įrankiu. Todėl ES žingsnis rodo, kad tokios technologijos nebebus vertinamos kaip pilkoji zona.
Svarbiausia žinia paprasta: žmogaus veidas ir kūnas negali būti naudojami seksualiniam turiniui kurti be jo sutikimo – net jei tai padaro ne kamera, o dirbtinis intelektas.
