Geoffrey Hinton, informatician britanico-canadian adesea numit „nașul” inteligenței artificiale, a redus intervalul de timp în care crede că AI ar putea distruge umanitatea, avertizând că ritmul schimbărilor tehnologice este „mult mai rapid” decât se aștepta, potrivit The Guardian.
Profesorul Geoffrey Hinton, care a primit anul acesta Premiul Nobel pentru Fizică pentru contribuțiile sale în domeniul AI, a afirmat că există o „probabilitate de 10% până la 20%” ca AI să ducă la extincția umanității în următoarele trei decenii.
Anterior, Hinton estimase o probabilitate de 10% ca tehnologia să provoace un rezultat catastrofal pentru omenire.
Întrebat în cadrul emisiunii Today de la BBC Radio 4 dacă și-a schimbat analiza privind o posibilă apocalipsă cauzată de AI și probabilitatea de 10% ca aceasta să se întâmple, el a răspuns: „Nu prea, 10%-20%.”
Estimarea lui Hinton l-a determinat pe editorul invitat al emisiunii, fostul cancelar Sajid Javid, să spună: „Ați crescut procentul”, la care Hinton a răspuns: „Dacă e cazul. Vedeți, nu ne-am mai confruntat niciodată cu lucruri mai inteligente decât noi.”
El a adăugat: „Și câte exemple cunoașteți în care ceva mai inteligent este controlat de ceva mai puțin inteligent? Sunt foarte puține exemple. Există cazul unei mame și al unui bebeluș. Evoluția a depus mult efort pentru a permite bebelușului să controleze mama, dar acesta este cam singurul exemplu pe care îl cunosc.”
Hinton, născut la Londra și profesor emerit la Universitatea din Toronto, a spus că oamenii vor fi asemenea unor copii mici comparativ cu inteligența sistemelor AI extrem de puternice.
„Îmi place să mă gândesc la asta astfel: imaginați-vă pe voi și un copil de trei ani. Noi vom fi copiii de trei ani,” a explicat el.
Inteligența artificială poate fi definită în termeni generali drept sisteme informatice care îndeplinesc sarcini care, în mod obișnuit, necesită inteligență umană.
Anul trecut, Hinton a atras atenția după ce și-a dat demisia de la Google pentru a putea vorbi mai deschis despre riscurile generate de dezvoltarea necontrolată a AI, exprimând îngrijorări că „actori rău intenționați” ar putea folosi tehnologia pentru a face rău altora.
O preocupare majoră a susținătorilor siguranței AI este că crearea inteligenței artificiale generale (AGI), sau a sistemelor mai inteligente decât oamenii, ar putea transforma această tehnologie într-o amenințare existențială, scăpând de sub controlul uman.
Reflectând la cât de avansată ar putea fi dezvoltarea AI față de așteptările sale inițiale, Hinton a spus: „Nu credeam că vom fi unde suntem acum. Credeam că, la un moment dat în viitor, vom ajunge aici.”
El a adăugat: „Pentru că situația în care ne aflăm acum este că majoritatea experților din domeniu cred că, în următorii 20 de ani, vom dezvolta inteligențe artificiale mai inteligente decât oamenii. Și asta este un gând foarte înfricoșător.”
Hinton a subliniat că ritmul dezvoltării este „foarte, foarte rapid, mult mai rapid decât mă așteptam” și a cerut reglementări guvernamentale pentru această tehnologie.
„Îngrijorarea mea este că mâna invizibilă [a pieței] nu ne va menține în siguranță. Deci, simpla lăsare a lucrurilor în seama motivației de profit a marilor companii nu va fi suficientă pentru a ne asigura că acestea o dezvoltă în mod sigur,” a spus el. „Singurul lucru care poate forța aceste mari companii să facă mai multe cercetări asupra siguranței este reglementarea guvernamentală.”
Hinton este unul dintre cei trei „nași ai AI” care au câștigat premiul ACM AM Turing – echivalentul premiului Nobel în știința calculatoarelor – pentru activitatea lor. Cu toate acestea, unul dintre ceilalți laureați, Yann LeCun, cercetător-șef în AI la Meta, a minimalizat amenințarea existențială și a declarat că AI „ar putea chiar să salveze umanitatea de la extincție.”