Agenția Reuters, care citează în acest sens două surse la curent cu subiectul, notează că demersul cercetătorilor a venit cu patru zile înainte de concedierea lui Sam Altman (fotomontaj, stânga), directorul executiv al OpenAI.
Demiterea directorului a generat reacții care riscau să distrugă însăși compania: peste 700 de angajați au amenințat că vor demisiona și vor merge la Microsoft - finanțatorul OpenAI - în semn de solidaritate cu directorul concediat.
Drept urmare, OpenAI l-a reangajat pe Sam Altman la o zi după ce l-a dat afară.
Scrisoarea cercetătorilor și descoperirea la care documentul face referire au reprezentat elemente-cheie în decizia inițială de înlăturare a lui Altman, au precizat sursele Reuters.
OpenAI confirmă, într-un mesaj intern, existența proiectului Q*
Contactată de Reuters, compania OpenAI a refuzat să comenteze avertismentul cercetătorilor, dar a recunoscut într-un mesaj intern existența unui proiect numit Q*.
Mesajul, trimis de Mira Murati, un director cu vechime în cadrul OpenAI, îi avertiza pe angajații companiei cu privire la anumite articole din presă, notează agenția de presă internațională.
Potrivit Reuters, unii angajați ai OpenAI spun că proiectul Q* (se pronunță Q-Star) este o materializare a unui concept cunoscut sub numele de Inteligență Generală Artificială, IGA.
OpenAI definește IGA ca fiind sisteme autonome ce depășesc oamenii în majoritatea sarcinilor importante din punct de vedere economic.
Avânt la dispoziție resurse vaste, Q* a fost capabil să rezolve anumite probleme matematice.
Reuters precizează că nu a putut verifica în mod independent capacitățile sistemului Q*.
Inteligența Artificială care rezolvă probleme matematice reprezintă un nivel superior față de actualele modele
Cercetătorii consideră că matematica este o frontieră a dezvoltării Inteligenței Artificiale generative.
În prezent, sistemele de Inteligență Artificială generativă sunt eficiente la conceperea de texte scrise și la traducerea limbilor străine, prin prezicerea statistică a următorului cuvânt.
Răspunsurile date la aceeași întrebare de aceste sisteme pot varia foarte mult.
Însă abilitatea de a elabora rezolvări în matematică - unde există un singur răspuns corect - presupune ca IA să dispună de abilități de raționament asemănătoare cu ale inteligenței umane.
Spre deosebire de un calculator, IGA poate generaliza, învăța și înțelege.
În scrisoarea lor către Consiliul de Administrație al OpenAI, cercetătorii au semnalat testele rezolvate de Q* și potențialul pericol.
Sam Altman a anunțat că se profilează "progrese majore" în domeniul Inteligenței Artificiale, înainte de a fi concediat
Asta, în contextul în care există de mult timp discuții în rândul informaticienilor cu privire la riscul reprezentat de mașinile foarte inteligente, care ar putea decide, la un moment dat, că distrugerea umanității este în interesul lor.
Scrisoarea a semnalat, de asemenea, activitatea unei echipe speciale de cercetare în cadrul OpenAI.
Grupul, format prin combinarea echipelor anterioare "Code Gen" și "Math Gen", se ocupă cu modul de optimizare a modelelor de Inteligență Artificială existente pentru a le îmbunătăți raționamentul și, în cele din urmă, pentru a le face capabile să realizeze lucrări științifice.
Directorul executiv Sam Altman s-a aflat în fruntea demersurilor menite să facă din ChatGPT una dintre aplicațiile software cu cea mai rapidă creștere din istorie și a atras investițiile și resursele de calcul necesare de la Microsoft pentru a se apropia de materializarea IGA.
Săptămâna trecută, în cadrul summitului Cooperării Asia-Pacific, desfășurat la San Francisco, Altman a anunțat că, în opinia sa, se întrezăresc progrese majore.
O zi mai târziu, el a fost concediat de la OpenAI, amintește Reuters.
