Directorul Anthropic avertizează asupra riscurilor din industria inteligenței artificiale
Update 1 zi în urmă
Timp de citire: 2 minute
Articol scris de: Cristina Preda
Directorul Anthropic avertizează asupra riscurilor din industria inteligenței artificiale
Dario Amodei, directorul companiei Anthropic, atrage atenția asupra pericolelor dezvoltării inteligenței artificiale necontrolate, comparând industria AI cu companiile de tutun și cele implicate în criza opioidelor. El subliniază importanța transparenței privind riscurile tehnologice pentru a evita repetarea greșelilor din trecut.
Într-un interviu acordat CBS News, Amodei a spus: „Ai putea ajunge într-o situație similară cu cea a companiilor de țigări sau a celor care au produs opioide, unde știau că există pericole, dar nu au vorbit despre ele și, cu siguranță, nu le-au prevenit”. El avertizează că AI ar putea șterge jumătate dintre joburile entry-level din birouri în următorii cinci ani, afectând sectoare precum contabilitatea sau domeniul juridic.
Potrivit digi24.ro, directorul Anthropic a menționat că sistemele AI capabile să acționeze autonom pot genera riscuri semnificative, de la șantaj la atacuri cibernetice. Recent, compania a anunțat că un grup legat de statul chinez a folosit un instrument al său pentru atacuri asupra unor organizații globale. Siguranța pe acest segment devine astfel o prioritate, mai ales că o tehnologie similară poate fi folosită atât pentru bine, cât și pentru rău.
Șeful echipei Anthropic pentru testarea limitelor AI, Logan Graham, subliniază ambiguitatea puterii AI: „Dacă modelul poate ajuta la producerea unei arme biologice, aceleași capabilități îl pot ajuta să creeze vaccinuri și să accelereze dezvoltarea tratamentelor”. Acesta recomandă măsurarea atentă a autonomiei modelelor și experimentarea pentru a înțelege comportamentele neașteptate ale sistemelor.