Pasaulinė mokslo bendruomenė susiduria su nauju iššūkiu, kuris vis garsiau kelia nerimą universitetams, žurnalų redakcijoms ir konferencijų organizatoriams. Mokslinių publikacijų skaičius, sukurtų ar smarkiai „padėtų“ dirbtinio intelekto kalbos modelių, auga tokiu tempu, kad vis sunkiau atskirti realią pažangą nuo triukšmo. Ekspertai perspėja: kokybė akivaizdžiai nukenčia, o pasitikėjimas mokslo procesu ima braškėti.
Kalifornijos universiteto Berklyje profesorius Hani Faridas situaciją apibūdina itin aštriai – jo teigimu, tai jau primena „beprotišką chaosą“. Pasak mokslininko, dirbtinio intelekto tyrimų srityje susiformavo toks publikacijų perteklius, kad net patyrę specialistai nebesugeba sekti literatūros. Dėl šios priežasties jis esą net pataria studentams rimtai apsvarstyti, ar verta rinktis šią sritį.
Diskusijos viešojoje erdvėje įsiplieskė po Farido įrašo socialiniame tinkle „LinkedIn“, kuriame jis atkreipė dėmesį į jauno tyrėjo Kevino Zhu veiklą. Pastarasis viešai teigė, kad per vienerius metus prisidėjo prie net 113 techninių mokslinių straipsnių publikavimo. Profesoriaus teigimu, toks produktyvumas kelia rimtų abejonių – net ir itin patyręs mokslininkas fiziškai nepajėgtų giliai įsigilinti į tiek daug sudėtingų darbų, jau nekalbant apie prasmingą jų kūrimą.
Faridas mano, kad tokie skaičiai signalizuoja apie nekontroliuojamą dirbtinio intelekto įrankių naudojimą, kai kiekybė ima visiškai dominuoti prieš kokybę.
Pats Kevinas Zhu – Kalifornijos universiteto Berklyje absolventas – yra įkūręs edukacinę platformą „Algoverse“. Pagal šią programą studentai dalyvauja intensyviuose 12 savaičių kursuose, po kurių rengia mokslinius straipsnius ir teikia juos prestižinėms konferencijoms. Dalis studentų tampa bendraautoriais, o pati schema kelia vis daugiau klausimų apie tai, kur baigiasi mokymas ir prasideda masinė publikacijų „gamyba“.
Situaciją dar labiau paaštrina faktas, kad tokios konferencijos kaip „NeurIPS“ šiemet sulaukė rekordinių skaičių – daugiau nei 21 tūkstančio pateiktų darbų. Vien Zhu vardas buvo susijęs su dešimtimis priimtų straipsnių. Dėl milžiniško krūvio organizatoriai buvo priversti į recenzavimo procesą įtraukti net magistrantūros studentus, o tai, pasak kritikų, dar labiau silpnina kokybės filtrus.
Pasak H. Farido, dirbtinio intelekto tyrimų sritis tapo ypač pažeidžiama automatizuoto turinio antplūdžio. Jo teigimu, „signalo ir triukšmo santykis“ mokslinėje literatūroje artėja prie kritinės ribos – vidutinis tyrėjas nebesugeba atskirti, kas iš tiesų reikšminga, o kas tėra greitai sugeneruotas tekstas.
Kevinas Zhu atmeta kaltinimus, tvirtindamas, kad jo komanda naudoja tik „įprastus produktyvumo įrankius“ – nuorodų tvarkykles, rašybos tikrintuvus ir kalbos modelius, padedančius aiškiau suformuluoti mintis. Tačiau skeptikai pažymi, kad riba tarp „pagalbos“ ir realaus turinio generavimo tampa vis labiau išplaukusi.
Papildomą nerimą kelia ir tai, kad dirbtinio intelekto modeliai neretai išgalvoja citatas, klaidingas nuorodas ar net pateikia melagingus duomenis. Moksliniuose žurnaluose jau fiksuoti atvejai, kai publikacijose aptinkamos neegzistuojančios studijos, dirbtinai sugeneruotos diagramos ar net paslėpti tekstiniai fragmentai, skirti apgauti automatines vertinimo sistemas.
Vienas iš labiausiai šokiruojančių pavyzdžių – recenzuotas ir patvirtintas straipsnis, kuriame buvo pateiktas dirbtinio intelekto sugeneruotas laboratorinės pelės modelis su akivaizdžiai absurdiškomis, fiziologiškai neįmanomomis detalėmis. Nepaisant to, darbas praėjo redakcinę patikrą.
Ekspertai perspėja, kad jei kolegialios peržiūros, recenzavimo ir šaltinių tikrinimo sistema nebus iš esmės peržiūrėta, mokslo pasaulis gali susidurti su rimta pasitikėjimo krize. Tokia krizė, jų teigimu, ne tik diskredituotų tyrimus, bet ir ilgus metus stabdytų realią pažangą – tiek akademinėje bendruomenėje, tiek technologijų pramonėje.
Dirbtinis intelektas neabejotinai tapo galingu įrankiu, tačiau vis daugiau mokslininkų sutaria: be aiškių ribų ir griežtesnės kontrolės jis gali tapti ne pažangos varikliu, o triukšmo fabriku, kuris skandina mokslą jo paties sukurtame informacijos sraute.
Šaltinis: https://mignews.com/news/technology/sovremennuyu-nauku-zahlestnul-potok-syrogo-ii-kontenta.html
