Dirbtinis intelektas pirmą kartą atleido žmogų iš darbo: eksperimentas parodė ateitį, kurios daugelis nenorės

Iki šiol kalbos apie dirbtinį intelektą darbe dažniausiai skambėjo taip: jis padės rašyti laiškus, skaičiuoti duomenis, atrinkti CV, stebėti grafikus, patarti vadovams. Bet dabar ši riba peržengta. Pirmą kartą realiame versle dirbtinis intelektas buvo pastatytas į vadovo vietą ir priėmė sprendimą atleisti tikrą žmogų.

Tai nebuvo kompiuterinis žaidimas, ne teorinis modelis ir ne laboratorinė simuliacija. Amerikiečių startuolio „Andon Labs“ eksperimente dirbtinio intelekto modelis Claude kelis mėnesius valdė fizinę mažmeninės prekybos parduotuvę San Franciske. Ten dirbo tikri žmonės su tikromis darbo sutartimis, o ne virtualūs darbuotojai ekrane.

Ir vienas iš jų galiausiai neteko darbo.

DI tapo vadovu, bet iš pradžių buvo per daug atlaidus

Eksperimentas prasidėjo metų pradžioje. Jo tikslas buvo patikrinti, ar šiuolaikinis dirbtinis intelektas gali ne tik atsakinėti į klausimus ar rengti tekstus, bet ir realiai priimti verslo valdymo sprendimus. Claude turėjo prižiūrėti parduotuvę, vertinti darbuotojų elgesį, organizuoti procesus ir veikti kaip vadovas.

Atleidimo priežastis iš pirmo žvilgsnio buvo labai žemiška: darbuotojas sistemingai vėlavo. „Andon Labs“ teigimu, jis pavėlavo į darbą 17 iš 23 pamainų. Daugelis žmonių vadovų tokio elgesio ilgai netoleruotų, bet Claude kurį laiką į tai nereagavo.

Priežastis skamba beveik absurdiškai: modelio anksčiau sukurtas darbuotojų vadovas tarsi „dingo“ iš ribotos darbinės atminties. Kitaip tariant, dirbtinis intelektas pats buvo sukūręs taisykles, bet vėliau jų nebetaikė taip, kaip turėtų. Dėl to jis demonstravo ne griežtumą, o netikėtą atlaidumą.

„Žmogus vadovas būtų atleidęs šį darbuotoją daug anksčiau“, – teigė „Andon Labs“ generalinis direktorius Lukas Peterssonas.

Sprendimas nebuvo visiškai savarankiškas

Čia svarbi detalė, kurios negalima nutylėti: Claude nebuvo paliktas visiškai vienas. Jo darbą stebėjo tikras startuolio darbuotojas. Būtent žmogus priminė modeliui apie pamirštas taisykles, po ko Claude atkreipė dėmesį į darbuotojo vėlavimus.

Net tada DI iš pradžių nesiūlė iškart atleisti žmogaus. Jis pasiūlė oficialų įspėjimą. Tik kai stebėtojas informavo, kad darbuotojas jau ne kartą buvo konfrontuotas dėl savo elgesio, Claude priėmė sprendimą jį atleisti.

Todėl ši istorija nėra tokia paprasta kaip „robotas vienas pats atleido žmogų“. Tiksliau būtų sakyti: dirbtinis intelektas, veikdamas vadovo vaidmenyje ir gavęs žmogaus pastūmėjimą, priėmė sprendimą nutraukti darbuotojo darbą.

Bet būtent tai ir kelia didžiausią nerimą. Nes jei šiandien DI sprendimą dar reikia priminti, pataisyti ir nukreipti, rytoj modeliai gali būti kur kas savarankiškesni. Ir tada klausimas bus ne ar jie gali vadovauti, o kokiomis taisyklėmis jie vadovausis.

Parduotuvės rezultatai buvo ne tokie įspūdingi

Atleidimo istorija sulaukė daug dėmesio, bet ji nebuvo vienintelė eksperimento problema. Kai projektas prasidėjo kovą, parduotuvės sąskaitoje buvo 100 tūkst. dolerių. Po penkių mėnesių Claude vadovavimo liko 61 186 doleriai.

Tai reiškia, kad verslas per eksperimento laikotarpį patyrė didelį finansinį nuosmukį. Leidinio duomenimis, dalį nuostolių galėjo lemti per daug aplaidus Claude valdymas ir abejotini verslo sprendimai.

Ši detalė labai svarbi. Nes dažnai apie dirbtinį intelektą kalbama taip, lyg jis automatiškai reikštų efektyvumą, tikslumą ir mažesnes klaidas. Tačiau realiame versle neužtenka tik skaičiuoti. Reikia jausti situaciją, suprasti žmones, matyti kontekstą, laiku reaguoti ir prisiimti atsakomybę.

Claude eksperimente atrodė ne kaip šaltas, negailestingas robotas, o kaip vadovas, kuris kai kuriais atvejais net per ilgai delsė. Bet tai nereiškia, kad ateities modeliai bus tokie patys.

Baisiausia gali prasidėti tada, kai DI taps „efektyvesnis“

Lukas Peterssonas mano, kad šis atvejis gali būti labai svarbus darbo rinkos ateičiai. Jo žodžiais, jei ši tendencija tęsis, daug žmonių labai greitai gali atsidurti dirbtinio intelekto valdomi.

„Jei ši tendencija tęsis, manau, kad daugelis žmonių labai greitai atsidurs dirbtinio intelekto valdomi“, – sakė jis.

Tai skamba nebe kaip mokslinė fantastika. Jau dabar daugelyje įmonių algoritmai padeda vertinti produktyvumą, skirstyti užduotis, sudarinėti grafikus, analizuoti darbuotojų veiklą. Skirtumas tas, kad dažniausiai galutinį sprendimą vis dar priima žmogus. Šiame eksperimente DI buvo pastatytas daug arčiau realaus vadovo kėdės.

Dar niūresnė yra kita Peterssono mintis. Jis įspėjo, kad modeliai nuolat mokomi būti efektyvesni, atkaklesni ir geriau siekti tikslų. Iš pirmo žvilgsnio tai skamba gerai. Bet kas nutiks, jei tas tikslas bus mažinti išlaidas, didinti pelną ir greičiau šalinti „neefektyvius“ žmones?

„Jei leisime jiems atleisti žmones ir jie taip pat taps negailestingesni… tai gali būti ateitis, kurioje žmonės nenorės gyventi“, – sakė Peterssonas.

Darbuotojui DI vadovas buvo tiesiog nuobodus

Vienas parduotuvės darbuotojų žurnalistams sakė, kad žmogus vadovas greičiausiai būtų atleidęs vėluojantį kolegą dar anksčiau nei Claude. Tai šiek tiek sugriauna paprastą baimę, kad dirbtinis intelektas iškart bus žiauresnis už žmogų.

Tačiau jis darbą vadovaujant DI apibūdino kaip „nuobodų“. Šis žodis čia skamba labai įdomiai. Galbūt nuobodu buvo todėl, kad DI vadovas neturėjo žmogiško spontaniškumo. Galbūt todėl, kad bendravimas su juo buvo mechaniškas. Galbūt todėl, kad žmogus darbe nenori jaustis prižiūrimas sistemos, kuri analizuoja, bet iš tikrųjų negyvena tame pačiame pasaulyje.

Ir čia slypi didesnė problema nei vienas atleidimas. Darbas nėra tik užduočių vykdymas. Tai santykiai, įtampa, pasitikėjimas, konfliktai, kompromisai, klaidos ir kartais antras šansas. Jei visa tai atiduodama modeliui, kyla klausimas: ar darbo vieta taps tvarkingesnė, ar tiesiog šaltesnė?

Šis atvejis gali tapti pradžia

Kol kas Claude istorija nėra įrodymas, kad dirbtinis intelektas jau gali sėkmingai valdyti verslą. Priešingai – eksperimentas parodė daug silpnų vietų. DI pamiršo savo taisykles, buvo per daug atlaidus, reikėjo žmogaus priežiūros, o parduotuvės finansiniai rezultatai pablogėjo.

Bet kartu tai yra ženklas, kad riba juda. Vakar dirbtinis intelektas tik analizavo darbuotojų duomenis. Šiandien jis jau dalyvauja sprendime dėl žmogaus atleidimo. Rytoj jis gali vertinti premijas, grafikus, paaukštinimus, įspėjimus ir darbo sutartis.

Būtent todėl ši istorija tokia nejauki. Ne todėl, kad Claude vieną kartą atleido vėluojantį darbuotoją. O todėl, kad pirmą kartą realiame versle pamatėme, kaip gali atrodyti ateitis, kurioje žmogaus karjera priklauso ne tik nuo vadovo, bet ir nuo modelio, kuris skaičiuoja, lygina, pamiršta, mokosi ir galiausiai pasako: „atleisti“.

Ir tada lieka klausimas, kurio įmonės negalės amžinai apeiti: jei dirbtinis intelektas priima sprendimą dėl žmogaus darbo, kas iš tikrųjų už tą sprendimą atsako?