„Meta“ funkcija neišgyveno nė savaitės: svetimas „Instagram“ nuotraukas leido paversti DI vaizdais

Viešą „Instagram“ paskyrą turinčio žmogaus nuotraukas buvo galima panaudoti naujam dirbtinio intelekto vaizdui sukurti jo neatsiklausus. Po vartotojų, privatumo gynėjų ir Holivudo atstovų kritikos „Meta“ prieštaringą funkciją išjungė praėjus vos trims dienoms nuo pristatymo.

„Meta“ liepos 7 dieną pristatė naują vaizdų generavimo modelį „Muse Image“, skirtą bendrovės dirbtinio intelekto paslaugoms. Jis leidžia kurti naujus vaizdus pagal tekstines užklausas, redaguoti turimas nuotraukas, sujungti kelis vaizdus ir rezultatus dalytis „Instagram“, „WhatsApp“ ar kitose „Meta“ platformose. Tačiau didžiausią dėmesį patraukė ne šios įprastos DI galimybės, o funkcija, leidusi užklausoje pažymėti viešą „Instagram“ paskyrą ir naudoti joje paskelbtas nuotraukas kaip vaizdinę medžiagą naujam kūriniui.

Tai reiškė, kad žmogus galėjo įrašyti kito viešo profilio naudotojo vardą ir paprašyti sistemos sukurti naują jo atvaizdą – pavyzdžiui, pakeisti aprangą, aplinką ar visą situaciją. Paskyros savininko atskiro leidimo kiekvienam tokiam kūriniui nereikėjo, o „Instagram“ jo neinformuodavo, kad nuotraukos buvo panaudotos. Privačios paskyros ir jaunesnių nei 18 metų naudotojų profiliai į šią funkciją nebuvo įtraukti, tačiau kitos viešos suaugusiųjų paskyros buvo įjungtos pagal numatytuosius nustatymus.

Didžiausias klausimas kilo dėl sutikimo

Galimybė naudoti viešą nuotrauką savaime nėra tas pats, kas leidimas kurti naujus tikroviškus žmogaus atvaizdus. Viešai paskelbdamas kelionės, šeimos ar darbo nuotrauką naudotojas nebūtinai tikisi, kad nepažįstamas žmogus galės ją panaudoti DI kompozicijoje, pakeisti aplinkybes ar sukurti niekada neįvykusios situacijos vaizdą.

Kritikai įspėjo, kad toks įrankis palengvina ne tik nekaltų pokštų ar sveikinimų kūrimą. Jis galėjo būti panaudotas patyčioms, apsimetimui kitu žmogumi, melagingoms reklamoms, reputacijai kenkiančioms klastotėms ar seksualizuotiems vaizdams kurti. Technologija nebūtinai panaikina visas apsaugos taisykles, tačiau kuo paprasčiau panaudoti konkretaus asmens išvaizdą, tuo mažiau techninių žinių reikia piktnaudžiautojui.

Ypač griežtai reagavo aktorių ir kitų atlikėjų profesinė sąjunga SAG-AFTRA bei talentų agentūra CAA. Jų vertinimu, žmogaus vardas, atvaizdas, balsas ar kūryba neturėtų būti naudojami DI sistemose be aiškaus ir dokumentuoto sutikimo. Kritikos sulaukė ir pasirinktas modelis, pagal kurį viešų paskyrų savininkai buvo automatiškai įtraukti, o norėdami apsisaugoti turėjo patys surasti nustatymą ir funkcijos atsisakyti.

„Meta“ pripažino, kad funkcija nepataikė į tikslą

Liepos 10 dieną, praėjus trims dienoms nuo pristatymo, „Meta“ atnaujino savo oficialų pranešimą ir paskelbė, kad viešų „Instagram“ paskyrų žymėjimu paremta funkcija nebepasiekiama. Bendrovė nurodė siekusi pasiūlyti naudingą kūrybinį įrankį ir suteikti žmonėms galimybę kontroliuoti, ar jų viešas turinys gali būti naudojamas, tačiau pripažino, kad pasirinktas sprendimas „nepataikė į tikslą“.

Svarbu tai, kad išjungtas ne visas „Muse Image“ modelis. „Meta AI“ ir toliau gali generuoti bei redaguoti vaizdus, o bendrovė planuoja šias galimybes plėsti „Instagram“, „WhatsApp“, „Facebook“, „Messenger“ ir reklamos įrankiuose. Pašalinta būtent galimybė pasitelkti kito žmogaus viešą „Instagram“ paskyrą paprasčiausiai pažymint ją užklausoje.

„Meta“ viešai nepaskelbė, kiek vaizdų buvo sukurta per tas tris dienas. Bendrovė taip pat nepateikė išsamaus paaiškinimo, ar ir kaip bus tvarkomi jau sugeneruoti bei vartotojų išsaugoti ar kitur paskelbti vaizdai. Privatumo bendrovės prieš funkcijos išjungimą įspėjo, kad nustatymo pakeitimas galėjo sustabdyti tik naują nuotraukų naudojimą, bet ne panaikinti jau sukurtus ir išplatintus darbus.

Praktiškai visiškai susigrąžinti internete išplatintą failą beveik neįmanoma. Net platformai pašalinus originalų įrašą, vaizdas gali būti atsisiųstas, persiųstas žinutėmis, paskelbtas kitoje svetainėje ar išsaugotas ekrano kopijoje.

Meta AINuotrauka: gguy / Shutterstock.com

Ką verta patikrinti „Instagram“ nustatymuose?

Nors konkreti viešų paskyrų žymėjimo funkcija jau išjungta, viešos paskyros savininkams verta peržiūrėti bendrus turinio dalijimosi ir pakartotinio naudojimo nustatymus. Priklausomai nuo programėlės kalbos ir versijos, juos galima rasti profilyje paspaudus trijų brūkšnelių meniu ir pasirinkus skiltį „Bendrinimas ir pakartotinis naudojimas“ arba panašiai pavadintą nustatymų dalį.

Prieš funkcijos pašalinimą ten buvo rodomas pasirinkimas, leidžiantis kitiems naudoti viešus įrašus ir vaizdo įrašus „Meta“ DI funkcijose. „TechCrunch“ nurodė, kad atskirai buvo galima išjungti įrašų ir „Reels“ vaizdo įrašų naudojimą. Nustatymų pavadinimai, jų vieta ir prieinamumas gali skirtis pagal valstybę, paskyros tipą bei programėlės atnaujinimą.

Žmonėms, kurie nenori, kad jų nuotraukos būtų lengvai pasiekiamos nepažįstamiems naudotojams, veiksmingiausias bendras sprendimas išlieka privati paskyra. Tačiau ir ji nėra absoliuti apsauga: patvirtinti sekėjai vis tiek gali išsaugoti ar persiųsti matomą turinį, todėl jautrių nuotraukų geriausia apskritai neviešinti.

Radus savo atvaizdą klaidinančiame ar žeminančiame DI kūrinyje, verta išsaugoti įrašo adresą ir ekrano kopijas, o tada pasinaudoti platformos pranešimo funkcija. Jeigu vaizdas naudojamas grasinimui, šantažui, seksualiniam išnaudojimui, apsimetimui ar finansiniam sukčiavimui, vien pranešimo socialiniam tinklui gali nepakakti – apie atvejį reikėtų informuoti ir policiją.

Trys dienos parodė didesnę DI problemą

„Muse Image“ istorija atskleidė konfliktą, kuris kartosis ir su kitais dirbtinio intelekto įrankiais. Technologijų bendrovės nori, kad naujomis funkcijomis būtų galima naudotis iš karto, tačiau žmogaus atvaizdas nėra paprasta žaliava kūrybiniam eksperimentui.

Vieša nuotrauka gali būti matoma visiems, bet iš to automatiškai neišplaukia sutikimas kurti naujas, tikroviškai atrodančias jos versijas. Ypač tada, kai paskyros savininkas negauna jokio pranešimo ir apie sukurtą vaizdą gali apskritai nesužinoti.

Greitas „Meta“ atsitraukimas parodė, kad vartotojų ir kūrėjų reakcija gali pakeisti net jau pristatytą didelės technologijų bendrovės produktą. Kartu ši istorija primena, kad svarbiausi privatumo sprendimai neturėtų būti paslėpti nustatymuose – kalbant apie žmogaus veidą ir tapatybę, sutikimas turėtų būti aiškus dar prieš įjungiant funkciją.