Folosirea modelelor AI, precum ChatGPT, reduce gândirea critică și ne poate face mai proști, avertizează un studiu Microsoft

Un nou studiu avertizează că inteligența artificială (AI) ar putea eroda capacitatea de gândire critică a utilizatorilor săi și i-ar putea face mai proști, potrivit Live Science.

Cercetarea - un sondaj realizat de Microsoft și Universitatea Carnegie Mellon în rândul lucrătorilor din domeniul afacerilor, educației, artelor, administrației și informaticii - a arătat că cei care aveau cea mai mare încredere în acuratețea asistenților AI aveau o gândire mai puțin critică cu privire la concluziile acestor instrumente.

În sine, acest lucru nu este chiar atât de surprinzător, dar dezvăluie o capcană ascunsă în prezența tot mai mare a AI în viețile noastre: Pe măsură ce instrumentele de învățare automată câștigă mai multă încredere, acestea ar putea produce conținut periculos care trece neobservat. Cercetătorii își vor prezenta constatările la Conferința CHI privind factorii umani în sistemele informatice la sfârșitul acestei luni și au publicat o lucrare, care nu a fost încă revizuită de colegi, pe site-ul Microsoft.

AI îl privează pe utilizatori de „oportunitățile de rutină de a-și exersa judecata”

„Folosite necorespunzător, tehnologiile pot duce și duc la deteriorarea facultăților cognitive care ar trebui să fie conservate”, au scris cercetătorii în studiu. „O ironie cheie a automatizării este că, mecanizând sarcinile de rutină și lăsând manipularea excepțiilor pe seama utilizatorului uman, îl privezi pe utilizator de oportunitățile de rutină de a-și exersa judecata și de a-și consolida musculatura cognitivă, lăsându-l atrofiat și nepregătit atunci când apar excepțiile.”

Pentru a realiza studiul, cercetătorii au contactat 319 lucrători din domeniul cunoașterii (profesioniști care generează valoare prin expertiza lor) prin intermediul platformei de crowdsourcing Prolific.

Respondenții - ale căror roluri profesionale au variat de la asistență socială la codare - au fost rugați să împărtășească trei exemple de utilizare a instrumentelor generative de inteligență artificială, cum ar fi ChatGPT, în cadrul activității lor. Aceștia au fost apoi întrebați dacă au folosit abilități de gândire critică în îndeplinirea fiecărei sarcini și (dacă da) cum au făcut acest lucru. De asemenea, au fost chestionați cu privire la efortul pe care l-ar fi necesitat îndeplinirea sarcinii fără inteligență artificială și cu privire la încrederea lor în muncă.

Oamenii pot deveni dependenți de ChatGPT și intră în sevraj când nu îl folosesc

Rezultatele au evidențiat o scădere drastică a examinării autoevaluate a rezultatelor AI, participanții declarând că pentru 40% din sarcinile lor nu au folosit niciun fel de gândire critică.

Acesta este departe de a fi singurul element de probă care indică impactul nociv al dependenței digitale asupra cogniției umane. S-a demonstrat că cei mai frecvenți utilizatori ai ChatGPT au devenit atât de dependenți de chatbot încât timpul petrecut departe de acesta poate provoca simptome de sevraj, în timp ce videoclipurile de scurtă durată, precum cele găsite pe TikTok, reduc durata de atenție și împiedică creșterea circuitelor neuronale legate de procesarea informațiilor și controlul executiv.

Aceste probleme par să fie mai proeminente în rândul tinerilor, în rândul cărora adoptarea inteligenței artificiale este mai răspândită, inteligența artificială fiind utilizată în mod obișnuit ca mijloc de a scrie eseuri și de a evita nevoia de a raționa critic.

AI poate îmbunătăți eficiența dar reduce gândirea critică

Aceasta nu este o problemă nouă - efectul Google, prin care utilizatorii își externalizează cunoștințele către motorul de căutare, a fost observat de zeci de ani - dar subliniază importanța exercitării unui anumit discernământ cu privire la sarcinile mentale pe care le delegăm mașinilor predispuse la halucinații, pentru a nu ne pierde cu totul capacitatea de a le îndeplini.

„Datele arată o schimbare a efortului cognitiv pe măsură ce lucrătorii din domeniul cunoașterii trec din ce în ce mai mult de la executarea sarcinilor la supraveghere atunci când utilizează GenAI”, au scris cercetătorii. „În mod surprinzător, în timp ce AI poate îmbunătăți eficiența, aceasta poate reduce, de asemenea, angajamentul critic, în special în sarcinile de rutină sau cu miză mai mică în care utilizatorii se bazează pur și simplu pe AI, ridicând îngrijorări cu privire la dependența pe termen lung și diminuarea rezolvării independente a problemelor.”