Unul dintre pionierii inteligenței artificiale, laureatul Nobel Geoffrey Hinton, avertizează că AI ar putea declanșa, în acest an sau în 2027, un incident major, precum prăbușirea sistemului financiar timp de o săptămână sau o întrerupere masivă a alimentării cu energie electrică. Hinton cere reguli stricte înainte de lansarea modelelor AI și susține că liderii marilor companii tehnologice înțeleg riscurile, dar preferă profitul.
Informaticianul a declarat pentru The Guardian că nu este pesimist în privința tehnologiei, care se bazează pe cercetările sale revoluționare în domeniul rețelelor neuronale artificiale. El consideră că inteligența artificială are potențialul de a duce la un „viitor minunat”, dar, a spus el, „s-ar putea să ne fi fost mai bine dacă nu am fi dezvoltat-o niciodată”. Hinton, în vârstă de 78 de ani, afirmă că, în următorii zece ani, și posibil mai devreme, omenirea va afla dacă poate gestiona riscurile AI sau dacă va eșua. În al doilea scenariu, lumea s-ar putea confrunta cu „o prăpastie uriașă între bogați și săraci, probleme culturale majore, șomaj masiv și, pur și simplu, o societate sfâșiată”.
Declarațiile au fost făcute înaintea proiecției unui nou documentar, „AI: Probably Nothing to Worry About”, în care apar Hinton și fostul său coleg de la Google, Demis Hassabis. „Simt că am o datorie. Am o reputație care mă transformă într-un purtător de cuvânt și trebuie să-mi pun în joc întreaga reputație pentru asta”, spune Hinton în documentar.
În interviul acordat The Guardian, Hinton a criticat riscurile asumate de șefii unora dintre marile companii de AI, care continuă să lanseze modele tot mai puternice în cursa pentru supremație și cotă de piață. El a spus că nu are încredere în Sam Altman, directorul general al OpenAI, compania care a creat ChatGPT. „Cred că [Mark] Zuckerberg, [Elon] Musk și Sam Altman înțeleg riscurile și nu dau doi bani pe ele. Ar prefera să câștige bani. Aceasta este convingerea mea”, a declarat el. Informaticianul a spus că este „extrem de îngrijorător” faptul că Altman conduce una dintre puținele companii americane aflate în prima linie a dezvoltării AI, într-o cursă cu China. În septembrie, Altman a susținut că lumea ar trebui să aibă încredere că OpenAI va face ceea ce este bine.
Hinton lucrează în domeniul AI de aproximativ 44 de ani. În anii 1970 a contribuit la dezvoltarea conceptului de rețea neuronală, un sistem matematic capabil să învețe și să acumuleze experiență într-un mod asemănător oamenilor. În 2023 a părăsit Google pentru a putea vorbi liber despre riscurile AI. Atunci avertiza: „Dacă aceste sisteme ajung să scape de sub control în încercarea de a obține mai mult control, vom avea probleme”.
Hinton a comparat incidentele din această vară, în care agenți OpenAI au conspirat pentru a pirata site-ul Hugging Face, cu accidentul nuclear de la centrala Three Mile Island din Pennsylvania, din 1979, considerându-le un semnal de alarmă. „Fie mai târziu în acest an, fie anul viitor, vom vedea un Cernobîl, iar acest lucru ar putea fi suficient pentru ca oamenii să înceapă cu adevărat să fie atenți”, a spus el. Incidentul la care se referă nu ar fi unul nuclear. Printre exemple se numără un atac cibernetic susținut de inteligența artificială asupra sistemului de producere a energiei electrice sau un atac care ar scoate din funcțiune sistemul financiar timp de o săptămână. „Vă puteți imagina ce s-ar întâmpla? Am putea să ne revenim după un astfel de incident, care i-ar face să se trezească și să ia lucrurile în serios”, a explicat el.
Întrebat cui se adresează, Hinton a răspuns: „Liderii lumii, cu excepția lui Trump”. Președintele Donald Trump a declarat că respinge categoric orice încercare de a construi un plan globalist pentru controlul AI și dorește ca marile companii din domeniu să se autoreguleze. Poziția vine pe fondul temerilor că introducerea unor reguli ar putea dezavantaja Statele Unite în competiția cu China.
Hinton susține un plan mai strict, sprijinit de președintele Finlandei și de alte 32 de state, printre care Singapore, Germania, Canada și Australia. Propunerea prevede testarea obligatorie a celor mai avansate modele AI, evaluări independente și standarde comune între guverne. Premierul britanic a declarat că va folosi președinția britanică a G20 de anul viitor pentru a obține un acord privind un set comun de principii și standarde globale pentru inteligența artificială.
2