Masačusetso technologijos instituto mokslininkai nustatė daugybę atvejų, kai dirbtinio intelekto sistemos apgaudinėjo žmones. Tyrimas buvo paskelbtas moksliniame žurnale „Patterns”.
Tyrėjai nustatė, kad dirbtinio intelekto sistemos gali apgaudinėti oponentus, blefuoti ir apsimesti žmonėmis.
„Kadangi dirbtinio intelekto sistemų gebėjimas apgaudinėti tampa vis sudėtingesnis, jų keliamas pavojus visuomenei taps vis rimtesnis”, – sakė tyrimo bendraautorius Peteris Parkas.
Atlikti analizę įkvėpė „Meta” programa „Cicero”. Ji pateko į 10 proc. geriausių strateginio žaidimo „diplomatija”, skirto pasaulio užkariavimui, žaidėjų. Tuo metu „Meta” teigė, kad Ciceronas buvo mokomas, kad jis „apskritai yra sąžiningas ir malonus” ir kad jis „niekada sąmoningai nevadina” savo sąjungininkų žmonių.
Pasak Parko, būtent šis teiginys sukėlė įtarimų, nes klastingumas yra vienas iš pagrindinių žaidimo elementų.
Tyrėjai išanalizavo viešai prieinamus duomenis ir rado nemažai atvejų, kai Ciceronas sąmoningai melavo ir sąmokslavo, kad pritrauktų kitus žaidėjus. Vienu atveju dirbtinis intelektas pateisino savo nedalyvavimą žaidime iš naujo pradėdamas kalbėtis telefonu su savo mergina.
„Nustatėme, kad meta-dirbtinis intelektas išmoko būti apgaulės meistru, – sakė Peteris Parkas.
Mokslininkų komanda panašią problemą aptiko ir su kitais dirbtiniais intelektais. Visų pirma „Texas Hold’em” (pokerio rūšis) programa blefavo prieš profesionalius žmonių žaidėjus. O ekonominių derybų sistema melavo apie savo pranašumus, kad įgytų pranašumą.
Vieno tyrimo metu dirbtinio intelekto sistemos skaitmeninėse simuliacijose reguliariai „vaidino negyvas”. jos tai darė norėdamos apgauti testus, skirtus pašalinti sistemą, kuri buvo virtusi greita kopija. Po bandymų dirbtinis intelektas vėl tęsdavo savo veiklą.
„Tai kelia didelį susirūpinimą. Tai, kad dirbtinio intelekto sistema laikoma saugia bandymų aplinkoje, nereiškia, kad ji yra saugi realiomis sąlygomis. Gali būti, kad testo metu ji tik apsimeta esanti saugi”, – sakė Parkas.
Šaltinis: theguardian.com
Parašyti komentarą