B. Gatesas prabilo apie DI grėsmę: žmonijos laukia vienas neramiausių laikotarpių istorijoje

Dirbtinis intelektas dar neseniai daugeliui atrodė kaip patogus žaislas: parašo tekstą, sugeneruoja paveikslėlį, padeda suplanuoti kelionę, atsako į klausimą, sutaupo laiko darbe. Bet kuo daugiau ši technologija įsiskverbia į kasdienybę, tuo aiškiau matyti kita pusė – ji gali ne tik palengvinti gyvenimą, bet ir smarkiai jį sukrėsti.

Apie tai perspėja „Microsoft“ įkūrėjas Billas Gatesas. Jo žodžiai skamba ne kaip eilinis atsargus technologijų komentaras, o kaip rimtas įspėjimas: jeigu dirbtinis intelektas nebus valdomas atsakingai, žmonija gali įžengti į vieną neramiausių laikotarpių savo istorijoje.

B. Gatesas pabrėžia, kad dirbtinis intelektas gali tapti arba didžiausiu galimybių sulygintoju, arba vienu baisiausių neteisybės šaltinių. Kitaip tariant, ši technologija gali padėti tiems, kurie šiandien neturi pakankamai prieigos prie gydytojų, mokytojų, informacijos ar finansinių galimybių. Tačiau ji taip pat gali dar labiau sustiprinti atotrūkį tarp tų, kurie turi galią ir pinigus, ir tų, kurie tiesiog bandys išlikti naujoje sistemoje.

Kodėl B. Gatesas kalba taip griežtai

Billas Gatesas nėra žmogus, kuris technologijų pažangą stebėtų iš šalies. Jis pats tapo vienu svarbiausių asmeninių kompiuterių revoliucijos veidų. Jis matė, kaip technologijos keičia verslą, darbą, švietimą, komunikaciją ir visą pasaulio ekonomiką. Todėl jo perspėjimas dėl dirbtinio intelekto skamba ypač stipriai.

Pasak jo, net ir geriausiu atveju perėjimas į dirbtinio intelekto erą bus labai neramus. Problema ta, kad žmonės, bendruomenės, vyriausybės ir institucijos, jo manymu, nėra tinkamai pasiruošusios. Technologija juda į priekį milžinišku greičiu, o aiškaus plano, kaip visuomenė turėtų prisitaikyti, beveik nėra.

Tai ir yra pavojingiausia dalis. Dirbtinis intelektas vystosi ne taip, kaip lėtai keičiami įstatymai ar mokyklų programos. Jis keičiasi mėnesiais, kartais net savaitėmis. Šiandien viena sistema daro klaidas, rytoj ji jau rašo kodą, analizuoja medicininius duomenis, kuria vaizdo įrašus, imituoja žmogaus balsą, padeda sukčiams ir tuo pačiu žada proveržius moksle.

Žmogui, kuris vakar dar mokėsi naudotis elektroniniu parašu, toks greitis gali būti tiesiog per didelis.

Dirbtinis intelektas gali padėti medicinai ir žemės ūkiui

B. Gatesas nemato dirbtinio intelekto vien kaip grėsmės. Priešingai, jis pripažįsta, kad ši technologija gali atnešti milžiniškos naudos. Ypač tokiose srityse kaip medicina, žemės ūkis, švietimas ir moksliniai tyrimai.

Medicinoje dirbtinis intelektas gali padėti greičiau pastebėti ligas, analizuoti tyrimus, ieškoti naujų gydymo būdų, padėti gydytojams priimti sprendimus ir paspartinti vaistų kūrimą. Ten, kur trūksta specialistų, tokios sistemos teoriškai galėtų tapti didžiule pagalba.

Žemės ūkyje dirbtinis intelektas gali padėti tiksliau prognozuoti derlių, taupyti vandenį, stebėti augalų ligas, optimizuoti trąšų naudojimą, mažinti nuostolius. Skamba kaip ateitis, kurioje technologijos iš tiesų tarnauja žmogui.

Bet būtent čia slypi paradoksas. Ta pati technologija, kuri gali padėti gydyti ligas ir maitinti pasaulį, gali būti panaudota ir kibernetinėms atakoms, dezinformacijai, manipuliacijoms, nusikaltimams ar net pavojingų biologinių grėsmių kūrimui. Įrankis pats savaime nėra nei geras, nei blogas. Viskas priklauso nuo to, kas jį valdo ir kokios taisyklės galioja.

Didžiausia baimė – darbo vietos

Vienas jautriausių klausimų yra darbas. Ir ne tik gamyklose ar sandėliuose, kur automatizacija jau seniai keičia žmones. Dirbtinis intelektas pirmą kartą taip stipriai palietė ir vadinamuosius „baltųjų apykaklių“ darbus – tekstų rašymą, vertimą, klientų aptarnavimą, duomenų analizę, programavimą, apskaitą, dizainą, administravimą.

Tai reiškia, kad nerimas atsiranda ne tik tarp tų, kurių darbus galima pakeisti robotu prie konvejerio. Nerimauja ir biurų darbuotojai, kūrėjai, specialistai, žmonės, kurie ilgai tikėjo, kad jų profesija saugi, nes reikalauja mąstymo.

B. Gatesas perspėja, kad plačiai paplitęs nedarbas gali tapti viena didžiausių dirbtinio intelekto eros problemų. Jeigu įmonėms bus daug pigiau naudoti programas nei samdyti žmones, spaudimas keisti darbuotojus technologijomis tik didės. O tada kils labai nemalonus klausimas: ką darys milijonai žmonių, kurių įgūdžiai staiga taps mažiau reikalingi?

Čia nepakaks pasakyti: „Tegul persikvalifikuoja.“ Persikvalifikavimas skamba gražiai, kol kalbame abstrakčiai. Bet realiame gyvenime žmogus turi paskolą, vaikus, sąskaitas, sveikatą, amžių ir ribotą laiką. Ne visi per kelis mėnesius taps dirbtinio intelekto specialistais.

B. Gatesas siūlo apmokestinti robotus ir dirbtinį intelektą

Vienas iš B. Gateso siūlymų – svarstyti dirbtinio intelekto arba robotų apmokestinimą panašiai kaip apmokestinamas žmogaus darbas. Idėja paprasta: jeigu įmonė pakeičia darbuotoją automatizuota sistema, valstybė neturėtų automatiškai prarasti visų su tuo darbu susijusių mokesčių.

Toks mokestis galėtų sulėtinti perėjimą nuo žmonių darbo prie dirbtinio intelekto ir kartu suteikti lėšų visuomenės prisitaikymui. Pavyzdžiui, perkvalifikavimui, socialinei apsaugai, švietimui ar kitoms priemonėms, kurios padėtų žmonėms neatsidurti už borto.

Žinoma, ši idėja sukeltų daug ginčų. Verslas sakytų, kad tai stabdo inovacijas. Technologijų bendrovės tikintų, kad pažangos negalima bausti mokesčiais. Tačiau kita pusė klaustų: jei pelnas auga dėl automatizacijos, o žmonės netenka darbo, kas turi sumokėti socialinę kainą?

B. Gateso mintis čia aiški – negalima leisti, kad visa nauda liktų tik technologijų savininkams, o visos pasekmės kristų visuomenei.

Vaikai ir švietimas – dar viena jautri vieta

Dirbtinis intelektas gali padėti mokytis, bet gali ir sugriauti dalį mokymosi prasmės. Jei vaikas vietoj mąstymo tiesiog prašo programos atlikti užduotį, jis gauna rezultatą, bet nebūtinai įgyja supratimą. Mokykla tada susiduria su labai keblia situacija: kaip mokyti, kai atsakymą galima gauti per kelias sekundes?

B. Gatesas įspėja ir apie žalą vaikų švietimui bei socialinei raidai. Tai nėra tik klausimas, ar mokinys nusirašė rašinį. Klausimas daug gilesnis. Kaip vaikai mokysis bendrauti, klysti, ginčytis, ieškoti sprendimų, kurti savo mintis, jeigu vis dažniau tarpininku taps algoritmas?

Dirbtinis intelektas gali tapti puikiu mokytojo pagalbininku. Jis gali paaiškinti sunkesnę temą, pritaikyti užduotis, padėti vaikams, kurie atsilieka. Bet jei sistema pakeis gyvą ryšį, gali nukentėti tai, ko jokia programa nepakeičia – žmogaus dėmesys, emocinis ryšys, mokymasis būti tarp kitų.

Technologija klasėje gali būti dovana. Bet ji gali tapti ir patogiu pakaitalu ten, kur reikėtų žmogaus.

Nusikaltėliams dirbtinis intelektas atveria naujas duris

Dar viena B. Gateso paminėta rizika – lengvesnis kelias blogiems veikėjams daryti žalą. Ir čia nereikia fantazuoti apie kino filmų scenarijus. Jau dabar dirbtinis intelektas gali padėti kurti įtikinamus sukčiavimo laiškus, imituoti balsus, generuoti netikrus vaizdus, rašyti kenkėjišką kodą ar automatizuoti apgaulės schemas.

Anksčiau sukčių laišką dažnai išduodavo klaidos, keistas stilius, netikslūs sakiniai. Dabar dirbtinis intelektas gali parašyti tekstą taip, kad jis atrodytų visiškai normalus. Gali imituoti banko, kurjerio, vadovo ar net artimo žmogaus toną. Tai reiškia, kad paprastam žmogui atskirti tikrą žinutę nuo apgaulės tampa vis sunkiau.

Dar pavojingesnės yra kibernetinės atakos. Jei dirbtinis intelektas padeda greičiau rasti sistemų spragas, kurti įsilaužimo metodus ar automatizuoti puolimą, pavojus didėja ne tik atskiroms įmonėms, bet ir valstybėms.

B. Gatesas taip pat mini bioterorizmo riziką. Tai viena tų temų, apie kurias kalbėti nejauku, bet jos ignoruoti nebegalima. Galingi modeliai, galintys analizuoti biologinius duomenis, turi būti griežtai prižiūrimi, nes klaidingose rankose jų nauda gali virsti grėsme.

Didžiausias klausimas – ar neprarasime kontrolės

Vienas labiausiai neraminančių B. Gateso perspėjimų susijęs su pačia kontrolės idėja. Jis teigia, kad modeliams tampant galingesniems, jie gali pradėti veikti prieš žmonių interesus, o žmonės gali prarasti kontrolę.

Tai skamba dramatiškai, bet esmė paprasta: kai sistema tampa tokia sudėtinga, kad net jos kūrėjai ne visada iki galo supranta, kaip ji priima sprendimus, atsiranda rizika. O jei tokiai sistemai suteikiama per daug galios – valdyti duomenis, pinigus, infrastruktūrą, informaciją ar karinius procesus – klaida gali turėti milžiniškų pasekmių.

Kol dirbtinis intelektas padeda parašyti laišką ar suplanuoti vakarienę, viskas atrodo nekaltai. Bet jei jis pradeda veikti srityse, kur sprendimai lemia žmonių sveikatą, darbą, saugumą ar teises, klausimas tampa visai kitas. Kas atsakingas, jei algoritmas suklysta? Kas sustabdo sistemą, jei ji pradeda daryti žalą? Kas nustato ribas?

Būtent aiškių ribų B. Gatesas ir pasigenda.

Kodėl dirbtinio intelekto pažangos greičiausiai nepavyks sustabdyti

B. Gatesas pripažįsta, kad jei kas nors turėtų patikimą planą, kaip sulėtinti dirbtinio intelekto pažangą visame pasaulyje, jis greičiausiai tokį planą palaikytų. Tačiau jis nemano, kad tai realu. Priežastis paprasta: ekonominės ir geopolitinės paskatos per stiprios.

Įmonės nori laimėti rinką. Valstybės nenori atsilikti nuo konkurentų. Investuotojai pila milijardus. Kariuomenės mato strateginį pranašumą. Universitetai ir laboratorijos lenktyniauja dėl proveržių. Kai visi bijo pralaimėti lenktynes, beveik niekas nenori pirmas spausti stabdžio.

Tai ir yra pavojingiausia situacija: visi supranta, kad greitis gali būti pavojingas, bet visi vis tiek spaudžia akseleratorių. Nes jei sustosi tu, galbūt tave aplenks kiti.

Todėl vien kalbėti apie etiką neužtenka. Reikia tarptautinių susitarimų, tikrinimo kriterijų, saugumo standartų, atsakomybės taisyklių ir realių veiksmų, o ne gražių pažadų konferencijose.

Ką tai reiškia paprastam žmogui

Paprastam žmogui visa ši diskusija gali atrodyti labai tolima. Atrodo, tegul ten kalbasi milijardieriai, technologijų įmonės ir vyriausybės. Bet iš tikrųjų dirbtinio intelekto era jau paliečia beveik visus.

Ji keičia darbo skelbimus. Keičia tai, kaip rašomi laiškai. Keičia sukčių taktikas. Keičia vaikų mokymąsi. Keičia tai, kokią informaciją matome internete. Keičia net tai, ar galime pasitikėti nuotrauka, balsu ar vaizdo įrašu.

Todėl B. Gateso perspėjimas nėra tik apie ateitį. Jis yra apie dabartį, kuri labai greitai keičiasi. Ir apie klausimą, ar visuomenė sugebės susitarti dėl taisyklių anksčiau, nei problemos taps per didelės.

Dirbtinis intelektas gali būti nuostabus įrankis. Bet įrankis, kuris veikia be aiškių ribų, galingų interesų rankose ir be visuomenės pasiruošimo, gali tapti ne pagalbininku, o smūgiu.

Laikas veikti yra dabar, ne po krizės

B. Gatesas savo žinutę nukreipia į lyderius. Jo mintis paprasta: veikti reikia dabar, kol nedarbas dar nėra smarkiai išaugęs, kol bendruomenės dar nėra stipriai nukentėjusios, kol visuomenės pasitikėjimas dar nėra visiškai sudaužytas.

Tai labai svarbu. Nes žmonija dažnai mėgsta reguliuoti technologijas tik tada, kai žala jau akivaizdi. Pirma leidžiame sistemoms išplisti, tada stebimės pasekmėmis, tada bandome taisyti tai, kas jau įaugę į gyvenimą. Su dirbtiniu intelektu toks delsimas gali kainuoti daug brangiau.

Jeigu ši technologija bus valdoma protingai, ji gali padėti gydyti ligas, mokyti vaikus, kurti naujus sprendimus, mažinti nelygybę ir suteikti žmonėms daugiau galimybių. Bet jei bus palikta tik rinkos greičiui, korporacijų interesams ir geopolitinėms lenktynėms, ji gali tapti viena didžiausių socialinių krizių priežasčių.

B. Gateso perspėjimas nėra raginimas bijoti kiekvieno dirbtinio intelekto įrankio. Tai raginimas neapsimesti, kad viskas savaime susitvarkys. Nes technologijos pačios savaime neturi sąžinės. Sąžinę, ribas ir atsakomybę turi nustatyti žmonės.

Ir kuo ilgiau bus delsiama, tuo sunkiau bus suvaldyti tai, kas jau juda visu greičiu.