ONU cere evaluarea riscurilor sistemelor bazate pe Inteligenţa Artificială: "Poate avea efecte catastrofale"

Potrivit Înaltulului comisar ONU pentru Drepturile Omului, tehnologiile de inteligență artificială pot avea efecte negative şi chiar catastrofale dacă sunt utilizate fără a ţine cont suficient de modul în care acestea afectează drepturile omului.

„Sisteme AI sunt utilizate pentru a determina cine poate beneficia de servicii publice, pentru a decide cine are șansa de a fi recrutat pentru un loc de muncă, şi, desigur, pot influenţa informațiile pe care oamenii le pot vedea şi le pot împărtăși online(...)

Nu ne putem permite să sărim în tren din mers în ceea ce privește sistemele AI şi să permitem ca acestea să fie utilizate fără control sau cu foarte puţin control şi să reparăm ulterior consecințele pe care le au asupra drepturilor omului", a declarat Michelle Bachelet, Înaltul comisar ONU pentru Drepturile Omului.

În acest context, statele trebuie să impună moratorii asupra tehnologiei care prezintă un potenţial mare de risc.

„Riscul de discriminare legat de deciziile bazate pe inteligenţa artificială - decizii care pot schimba, stigmatiza sau distruge o viaţă de om - este foarte real", a mai subliniat Michelle Bachelet, informează Agerpres.ro.

Raportul mai scoate în evidenţă faptul că inteligenţa artificială este antrenată cu ajutorul unor baze de date enorme, a căror alcătuire se face de multe ori în moduri netransparente.