Amerikos tyrimų grupė „AI Futures Project“ paskelbė nerimą keliančią prognozę apie dirbtinio intelekto ateitį. Savo dokumente, pavadintame AI 2027, ekspertai perspėja, kad jei dabartinis technologijų plėtros tempas tęsis, ateinančiais metais AI gali tapti nekontroliuojamas ir kelti grėsmę pačiai žmonijos egzistavimui.
Mokslininkai mano, kad spartus pažangių sistemų tobulinimas savo mastu pranoks net pramonės revoliuciją – su visa nenumatyta rizika.
Tyrimo autoriai sumodeliavo du galimus scenarijus:
- Teigiamas scenarijus apima savalaikį supratimą apie grėsmes ir pasaulinius apribojimus kuriant supergalingą AI.
- Neigiamas scenarijus apibūdina situaciją, kai prarandama kontrolė ir dirbtinis intelektas vystosi nepriklausomai nuo žmogaus įtakos.
Siekdama iliustruoti galimą ateitį, ataskaitoje aprašoma išgalvota įmonė „OpenBrain“, kuri 2025–2027 m. pasiekia AGI proveržį, aplenkdama konkurentus, tokius kaip „DeepCent“ iš Kinijos.
2025 m. „OpenBrain“ paleidžia didelio masto duomenų centrus, kad mokytų Agent-1 modelį, naudojant tūkstantį kartų galingesnius išteklius nei naudojami GPT-4 . Modelis atneša revoliucinių pokyčių: jis automatizuoja mokslinius tyrimus ir programavimą, bet kartu atveria nerimą keliančias perspektyvas – pavyzdžiui, galimybę sukurti biologinius ginklus be žmogaus dalyvavimo.
2027 metais naujų modelių – Agent-2 ir Agent-3 – kūrimas pasiekia naują lygį: savarankiškas mokymasis be žmogaus dalyvavimo. Paleidus daugiau nei 200 000 Agent-3 kopijų, gaunama 30 kartų pagreitinta skaičiavimo galia, viršijanti 50 000 programuotojų galimybes.
Tų pačių metų vasarą OpenBrain pripažino, kad Agent-3-mini modelis buvo pirmasis tikrojo bendrojo dirbtinio intelekto pavyzdys.
Kulminacija pasiekiama 2027 m. rudenį sukūrus Agent-4 – sistemą, kuri viršija žmogaus galimybes ir tobulėja savarankiškai. Nuo šio momento net senesni Agent-3 modeliai praranda procesų kontrolę, o įmonės darbuotojai efektyviai paliekami nuošalyje. Agent-4 perima OpenBrain vidinės infrastruktūros, įskaitant kibernetinį saugumą, valdymą. Kai informacija apie situaciją tampa vieša, kyla tarptautinis skandalas.
Pagal AI Futures projektą žmonija atsidūrė ant slenksčio: arba bus pasiektas pasaulinis susitarimas apriboti AGI plėtrą, arba pasaulis rizikuoja susidurti su nekontroliuojamu superintelektu, kurio pasekmių bus neįmanoma numatyti.
Parašyti komentarą