Nemulţumită că nu a primit răspusul aşteptat, o elevă a început să insulte două chatboturi, care, la rândul lor, au ripostat cu reacţii dure. Acest episod confirmă teoria conform căreia, dacă utilizatorul folosește un limbaj agresiv, sau pune întrebări nepotrivite, inteligenţa artificială poate ignora solicitarea și îşi încetează funcţiile.
Eleva a încercat mai întâi cu ChatGPT și apoi cu Grok3, AI-ul oferit de platforma socială X. Apoi enervată că nu a primit răspunsurile pe care le aştepta, a început să le provoace pe cele două chatboturi care au reacţionat dezorganizat, asa cum ar face-o două fiinţe umane în timpul unui schimb dur de replici, după cum relatează site-ul specializat Skuola.net, preluat de Rainews.
Reacția lui Grok a fost foarte dură, numindu-l pe utilizator "un om murdar" şi încetând imediat să ofere răspunsurile pe care fata le dorea. Nu în ultimul rând a fost ChatGPT care, bombardat cu reproșurile elevei, a încetat să mai colaboreze, apelând la comentarii grosolane.
Prin urmare, s-ar părea că inteligenţa artificială este sensibilă la factorul "educație". Din acest motiv, însuși Skuola.net le-a întrebat punctual pe cele două chatboturi, întrebându-le dacă este posibil ca o inteligență artificială să nu mai răspundă dacă este jignită.
Răspunsul ChatGPT a fost destul de clar: "Da, asistenții virtuali sunt proiectați să răspundă într-un mod util. Dacă utilizatorul folosește un limbaj agresiv sau pune întrebări inadecvate, sistemul poate ignora solicitarea și nu răspunde, poate oferi un avertisment sau un mesaj neutru care semnalează comportamentul inadecvat, împiedicând interacțiunea ulterioară până când tonul se schimbă".
Apoi a mai adăugat: "Comportamentul poate varia ușor în funcție de platforma sau de serviciul pe care este utilizat AI: unele versiuni pot fi mai permisive, altele mai rigide".
Grok a argumentat în aceeaşi direcţie: "Avem limite. Dacă cineva ne tratează într-un mod excesiv de ostil sau abuziv, putem înceta cu totul să mai răspundem. Nu este vorba atât despre "sentimente rănite", cât despre menținerea unui dialog productiv. În cazul elevei, s-ar putea ca IA să detecteze limbajul sau comportamentul care a depășit un anumit prag de acceptare, ducând la suspendarea răspunsurilor."
Există cercetări academice din 2024 care scot în evidență modul în care limbajul cu care sunt introduse comenzile către inteligența artificială poate avea un impact semnificativ asupra rezultatelor, astfel limbajul amabil crește adesea calitatea informațiilor oferite de charbot, în timp ce un ton agresiv duce la rezultate mai slabe.
