Pasaulē nozīmīgākā zinātnes vietne tagad cīnās pret savu lielāko tendenci

Lai gan valdošais naratīvs vēsta, ka mākslīgais intelekts ir nevainojams zinātniskā paātrinājuma dzinējs, realitāte praksē kļūst arvien nekārtīgāka. Mums tika teikts, ka lielie valodas modeļi (LLM) darbosies kā nenogurdināmi stažieri, dažu sekunžu laikā apkopojot milzīgas datu kopas un sagatavojot sarežģītu dokumentu uzmetumus, lai palīdzētu cilvēkiem uzveikt vēzi vai atrisināt kodolsintēzi. Taču pasaules svarīgāko pētniecības krātuvju gaiteņos šis stažieris ir sācis melot savā CV — un vadītāji beidzot norāda viņam uz durvīm.

ArXiv, cienījamā brīvpieejas krātuve, kurā gadu desmitiem tiek publicēti revolucionāri pētījumi fizikā, matemātikā un datorzinātnēs, nesen paziņoja par stingru jaunu politiku. Ja autors iesniedz darbu, kurā ir "neapstrīdami pierādījumi", ka viņš ļāvis MI veikt darbu, nepārbaudot rezultātus, viņam draud obligāts viena gada aizliegums. Vidusmēra lietotājam tas varētu šķist kā iekšējs akadēmisks strīds. Patiesībā tā ir fundamentāla cīņa par informācijas integritāti, kas galu galā nodrošina visu — no viedtālruņa akumulatora darbības laika līdz medicīniskajiem padomiem, ko atrodat Google.

Mīts par automatizēto ģēniju

Lai saprastu, kāpēc šis solis ir tik graujošs, mums vispirms jāaplūko, kas patiesībā ir ArXiv. Tas nav tradicionāls žurnāls ar lēnu un smagnēju salīdzinošās pārskatīšanas (peer-review) procesu. Tā vietā tas ir pirmsdrukas (preprint) serveris — vieta, kur pētnieki nekavējoties publicē savus darbus, lai globālā kopiena varētu tos redzēt. Tā ir zinātnes pasaules digitālā jēlnafta; tā ir vieta, kur idejas tiek slīpētas, pirms tās kļūst par produktiem, ko mēs pērkam. Ja ArXiv avota materiāls tiek piesārņots ar "MI drazu" (AI slop), visa tālākā zināšanu piegādes ķēde sāk sabrukt.

Gadiem ilgi tehnoloģiju pasaule ir slavinājusi LLM kā izcilāko produktivitātes rīku. Tomēr, skatoties uz kopējo ainu, mēs redzam sistēmisku nobīdi, kur ģenerēšanas vieglums apsteidz mūsu spēju veikt verifikāciju. Pētnieki, pakļauti milzīgam spiedienam "publicējies vai izzūdi", ir sākuši izmantot MI ne tikai kā korektoru, bet arī kā "ēnu rakstnieku". Problēma? Šie MI modeļi būtībā ir sarežģīti likumsakarību meklētāji. Tie "nezina" faktus; tie paredz nākamo ticamāko vārdu teikumā. Ja tiem nav fakta, tie bieži vien izdomā tādu, kas izklausās ticams — fenomens, ko dēvē par halucinācijām.

Kad stažieris sāk izdomāt lietas

Tomass Dīterihs (Thomas Dietterich), ArXiv datorzinātņu nodaļas vadītājs, nesen paskaidroja, ka krātuve pilnībā neaizliedz MI izmantošanu. Tā vietā viņi aizliedz tā pavirsšu izmantošanu. Aiz žargona slēptie "neapstrīdami pierādījumi", uz kuriem norāda Dīterihs, bieži vien ir apkaunojoši acīmredzami.

Ikdienā mēs visi esam redzējuši MI rakstīta e-pasta pazīmes: pārlieku pieklājīgs tonis, vispārīga struktūra vai gadījuma rakstura frāze "Kā MI valodas modelis es nevaru...", ko atstājis slinks sūtītājs. Augsta riska pētījumu pasaulē šie brīdinājuma signāli izpaužas bīstamākās formās:

• Halucinētas atsauces: MI citē rakstu, kas izklausās īsts un ko sarakstījis īsts profesors, taču šāds raksts vienkārši neeksistē.
• Iekšējās uzvednes: Autori nejauši atstāj savas instrukcijas MI (piemēram, "Uzrakstiet secinājumus šiem datiem") galīgajā PDF failā.
• Aizspriedumaina datu sintēze: MI modeļi atkārto novecojušas vai nepareizas zinātniskās dogmas, jo tie tika apmācīti, izmantojot vecākus interneta datus.

Vēsturiski zinātniskā krāpniecība prasīja pūles. Bija jāvilto dati vai jāmanipulē ar attēliem Photoshop programmā. Tagad ticama izskata (bet pilnīgi viltota) zinātniskā raksta izveide prasa mazāk laika nekā picas pasūtīšana. Tāpēc ArXiv pāriet uz "viena pārkāpuma" noteikumu. Ja moderatori atrod skaidrus pierādījumus tam, ka jūs pat neesat papūlējušies izlasīt savu MI ģenerēto iesniegumu, jūs tiekat izslēgts.

Viena gada "sodu soliņš"

Saskaņā ar jaunajiem noteikumiem sekas ir nopietnas. Viena gada aizliegums ArXiv ir ievērojams trieciens pētnieka karjerai, jo īpaši tādās strauji mainīgās jomās kā MI pētniecība, kur būt pirmajam, kas publicē, ir izšķiroši. Taču sods nebeidzas pēc divpadsmit mēnešiem. Kad aizliegums tiek atcelts, jebkuri turpmākie šo autoru iesniegumi vispirms ir jāpieņem kādā cienījamā, recenzētā izdevumā, pirms tie var parādīties ArXiv.

Būtībā ArXiv saka: Ja mēs nevaram uzticēties, ka jūs būsiet pats sev redaktors, mēs šo uzticēšanos uzticēsim kādam citam.

Atdalīšanās no "Ziloņkaula torņa"

Interesanti, ka šī vēršanās pret pārkāpumiem sakrīt ar lielām strukturālām izmaiņām krātuvē. Pēc tam, kad Kornela Universitāte to uzturēja vairāk nekā 20 gadus, ArXiv pārtop par neatkarīgu bezpeļņas organizāciju. No tirgus viedokļa tā ir stratēģiska spēle uz izturību. Kā neatkarīga vienība ArXiv var piesaistīt daudzveidīgāku finansējumu, lai izveidotu automatizētus rīkus un algotu cilvēkus-moderatorus, kas nepieciešami cīņai pret pieaugošo MI ģenerētās dezinformācijas vilni.

No patērētāja viedokļa mums tas būtu jāuztver kā nepieciešams infrastruktūras uzlabojums. Ja ArXiv pārpludinātu zemas kvalitātes saturs, tā kļūtu par nestabilu vidi investoriem un tehnoloģiju uzņēmumiem, kuri paļaujas uz tās datiem, lai radītu nākamās paaudzes ierīces. Sakārtojot savu darbību, ArXiv aizsargā tehnoloģiju nozares pamata slāni.

Kāpēc jūsu ziņu plūsma ir atkarīga no matemātikas vietnes

Citiem vārdiem sakot, kāpēc parastam cilvēkam — kādam, kurš neraksta darbus par kvantu topoloģiju — par to būtu jārūpējas? Tāpēc, ka zinātne nepaliek tikai laboratorijā.

Kad ArXiv tiek publicēts "revolucionārs" raksts, tas bieži vien izraisa ziņu rakstu vilni. Ja šo rakstu ir halucinējis MI un cilvēks-autors to nekad nav pārbaudījis, šī dezinformācija ceļo caur ziņu ciklu un galu galā nonāk jūsu sociālo tīklu plūsmā. Mēs jau esam redzējuši gadījumus biomedicīnas pētījumos, kur pieaug viltotu citātu skaits. Ja ārsts vai politikas veidotājs paļaujas uz kopsavilkumu par pētījumu, kas patiesībā nekad nav veikts, sekas reālajā pasaulē ir taustāmas un bīstamas.

Galu galā ArXiv solis ir atgādinājums, ka decentralizētas informācijas pasaulē cilvēka faktors joprojām ir vissvarīgākais filtrs. MI ir spēcīgs rīks izlaides mērogošanai, taču tas nevar mērogot patiesību. Patiesībai ir nepieciešams lēns, metodisks cilvēka veikts pārbaudes darbs.

Signāla atdalīšana no trokšņa

Vērojot mainīgo digitālās informācijas ainavu, ArXiv jaunā politika sniedz vairākas mācības mūsu pašu digitālajiem ieradumiem. Mēs ieejam laikmetā, kur satura radīšanas izmaksas ir nulle, kas nozīmē, ka arī šī satura vērtība tiecas uz nulli — ja vien to neapstiprina uzticams cilvēks vai institūcija.

Praktiski runājot, mums visiem vajadzētu sākt piemērot "ArXiv filtru" informācijai, ko patērējam. Ja kāda ziņa šķiet pārāk perfekti strukturēta, tajā izmantota pārlieku vispārīga valoda vai citēti "pētījumi", kurus nevarat atrast ar ātru meklēšanu, izturieties pret to ar tādu pašu skepticismu, ar kādu ArXiv moderatori izturas pret aizdomīgu pirmsdruku.

Skatoties uz kopējo ainu, "viena pārkāpuma" noteikums nav tikai slinku zinātnieku sodīšana. Runa ir par telpas saglabāšanu, kurā var apmainīties ar idejām, nebaidoties tikt noslīcinātam digitālajā troksnī. Tā kā MI turpina appludināt internetu ar saturu, vērtīgākais resurss pasaulē nebūs dati vai apstrādes jauda — tā būs uzticēšanās.

Avoti:

• ArXiv official governance and policy updates (2024-2026)
• 404 Media interview with Thomas Dietterich
• Cornell University Library administrative reports
• Peer-reviewed studies on LLM-generated citation hallucinations