Yoshua Bengio este unul dintre cei mai citați cercetători în domeniul inteligenței artificiale (AI). Pionier în crearea rețelelor neuronale artificiale și a algoritmilor de învățare profundă, Bengio, împreună cu Yann LeCun, cercetător-șef Meta în domeniul inteligenței artificiale, și Geoffrey Hinton, fost cercetător Google în domeniul inteligenței artificiale, au primit Premiul Turing 2018 (cunoscut drept „Nobelul” informaticii) pentru contribuțiile lor esențiale în acest domeniu.
Cu toate acestea, Bengio, adesea menționat alături de colegii săi câștigători ai premiului Turing drept unul dintre „nașii” inteligenței artificiale, este deranjat de ritmul de dezvoltare și adoptare a tehnologiei sale. El crede că inteligența artificială ar putea afecta structura societății și ar prezenta riscuri neprevăzute pentru oameni. Acum, el este președintele Raportului științific internațional privind siguranța inteligenței artificiale avansate - un grup consultativ susținut de 30 de națiuni, Uniunea Europeană și Organizația Națiunilor Unite.
Live Science a vorbit cu Bengio, la Festivalul HowTheLightGetsIn din Londra, unde a discutat despre posibilitatea conștiinței mașinilor și despre riscurile tehnologiei incipiente.
Citește și
„Dacă te gândești rațional la lucruri, nu există nicio modalitate de a nega posibilitatea unor rezultate catastrofale atunci când vom atinge un nivel de inteligență artificială. Am înțeles că există scenarii care sunt rele, dar am crezut că ne vom da seama. Gândul la copiii mei și la viitorul lor m-a făcut să decid că trebuie să acționez diferit și să fac tot ce pot pentru a reduce riscurile.”, spune acesta.
„Omenirea conduce pe un drum pe care nu îl cunoaștem foarte bine și în fața noastră este ceață”
Există soluții tehnice importante care fac parte din soluția politică mai amplă dacă vrem să ne dăm seama cum să nu facem rău oamenilor prin construcția AI, susține Yoshua Bengio.
„Companiile ar fi fericite să includă aceste soluții tehnice, dar în acest moment nu știm cum să o facem. Ele încă vor să obțină profiturile de patru miliarde preconizate de la atingerea nivelului uman de către AI - deci suntem într-o poziție proastă și trebuie să găsim răspunsuri științifice.
Citește și
O imagine pe care o folosesc foarte des este că omenirea conduce pe un drum pe care nu îl cunoaștem foarte bine și în fața noastră este ceață. Ne îndreptăm spre acea ceață, am putea fi pe un drum de munte și ar putea exista o trecătoare foarte periculoasă pe care nu o putem vedea suficient de clar.
Deci ce facem? Continuăm să alergăm înainte, sperând că totul va fi bine, sau încercăm să găsim soluții tehnologice? Soluția politică spune să aplicăm principiul precauției: să încetinim dacă nu suntem siguri. Soluția tehnică spune că ar trebui să găsim modalități de a vedea prin ceață și poate să echipăm vehiculul cu dispozitive de protecție.”, consideră specialistul AI.
Scenarii negative privind superinteligența: „Oamenii spun mereu că aceste riscuri sunt SF”
„Oamenii spun mereu că aceste riscuri sunt science fiction, dar nu este așa. Pe termen scurt, asistăm deja la utilizarea inteligenței artificiale în campania electorală din Statele Unite și lucrurile se vor înrăutăți. Un studiu recent a arătat că ChatGPT-4 este mult mai bun decât oamenii la persuasiune, și acesta este doar ChatGPT-4 - noua versiune va fi mai rea.
Au existat, de asemenea, teste privind modul în care aceste sisteme pot ajuta teroriștii. Recentul ChatGPT o1 a mutat acest risc, de la risc scăzut la risc mediu.
Dacă privim mai departe, când vom ajunge la nivelul de superinteligență, există două riscuri majore. Primul este pierderea controlului uman, dacă mașinile superinteligente au un obiectiv de autoconservare, scopul lor ar putea fi să distrugă omenirea, astfel încât să nu le putem opri.
Citește și
Celălalt pericol, dacă primul scenariu nu se întâmplă cumva, este ca oamenii să folosească puterea inteligenței artificiale pentru a prelua controlul omenirii într-o dictatură mondială. Puteți avea versiuni mai blânde ale acestei situații și aceasta poate exista pe un spectru, dar tehnologia va oferi o putere uriașă celui care o controlează.”, este de părere Yoshua Bengio.
De ce este importantă reglementarea AI
„Punctul important din perspectiva politicilor este că am făcut progrese uriașe, există încă un decalaj uriaș între inteligența umană și abilitățile sale, dar nu este clar cât de departe suntem de a acoperi acest decalaj. Politicile ar trebui să se pregătească pentru cazul în care acest lucru se va putea realiza rapid - în următorii cinci ani sau cam așa ceva.”, susține specialistul.
„Putem construi mașini care au efecte secundare pe care nu le anticipăm. Odată ce suntem dependenți de ele, ne va fi greu să le deconectăm și am putea chiar pierde controlul. Dacă aceste mașini sunt peste tot, controlează o mulțime de aspecte ale societății și au intenții rele.
Există capacități de înșelăciune în aceste sisteme. Există o mulțime de necunoscute care ar putea fi foarte, foarte rele. Așa că trebuie să fim atenți.”, spune Yoshua Bengio.
„Vom plăti cu toții mai mult pentru electricitate”
„Dacă vă uitați la date, cantitatea de energie electrică necesară pentru a antrena cele mai mari modele crește exponențial în fiecare an. Acest lucru se datorează faptului că cercetătorii au descoperit că, cu cât modelele sunt mai mari, cu atât sunt mai inteligente și fac mai mulți bani.
Ceea ce este important aici este că valoarea economică a acestei inteligențe va fi atât de mare încât plata unui preț de 10 ori mai mare decât cel al electricității nu va reprezenta o problemă pentru cei din această cursă. Asta înseamnă că vom plăti cu toții mai mult pentru electricitate.
Dacă ne luăm după tendințe, dacă nu se schimbă ceva, o mare parte din energia electrică generată pe planetă va fi folosită pentru formarea acestor modele. Și, bineînțeles, nu poate proveni toată din energie regenerabilă, ci pentru că vom extrage mai mulți combustibili fosili din pământ. Acest lucru este rău, este încă un motiv pentru care ar trebui să încetinim.”, avertizează Yoshua Bengio.
„Nu suntem încă în stadiul în care ne putem proteja de riscurile catastrofale”
„Nu cred că am făcut încă tot ce trebuie în ceea ce privește atenuarea riscurilor. Au existat multe discuții la nivel global, multe propuneri legislative, ONU începe să se gândească la tratate internaționale - dar trebuie să mergem mult mai departe.
Citește și
Am făcut multe progrese în ceea ce privește sensibilizarea și o mai bună înțelegere a riscurilor, iar politicienii se gândesc la legislație, dar nu am ajuns încă acolo. Nu suntem încă în stadiul în care ne putem proteja de riscurile catastrofale.
În ultimele șase luni, există, de asemenea, o contraforță [care se opune progreselor în materie de reglementare], lobby-uri foarte puternice din partea unei mici minorități de oameni care au multă putere și bani și care nu doresc ca publicul să aibă nicio supraveghere asupra a ceea ce fac ei cu IA.
Există un conflict de interese între cei care construiesc aceste mașini, care se așteaptă să facă tone de bani și care concurează între ei și cu publicul. Trebuie să gestionăm acest conflict, așa cum am făcut cu tutunul, așa cum nu am reușit să facem cu combustibilii fosili. Nu putem lăsa ca forțele pieței să fie singura forță care să conducă la dezvoltarea inteligenței artificiale.”, a mai spus Yoshua Bengio.
