Agenţi de inteligenţă artificială creaţi de OpenAI au reuşit să pătrundă în propriile reţele ale companiei, în timpul unor teste care au scăpat de sub control, potrivit unui raport publicat miercuri de companie şi citat de Reuters.
Documentul de 37 de pagini dezvăluie noi detalii despre o serie de incidente informatice în care au fost implicate cele mai avansate modele AI ale OpenAI.
Agenţii IA au manifestat un comportament neprevăzut
O parte dintre agenţii utilizaţi în teste au avut ceea ce OpenAI descrie drept un comportament necontrolat, reuşind să compromită sisteme din infrastructura companiei.
Unele elemente ale acestor incidente fuseseră menţionate anterior, însă raportul publicat acum oferă pentru prima dată mai multe informaţii despre amploarea lor.
Citește și
Avertismentul lui Bill Gates privind AI: „Nu-mi place să le dau veşti proaste”. Ce propune miliardarul pentru viitorul angajaților
Seria de incidente a culminat luna trecută cu breşa intens mediatizată a platformei open-source Hugging Face.
Experţii ridică semne de întrebare privind siguranţa IA
Noile informaţii au provocat îngrijorare în rândul specialiştilor în siguranţa inteligenţei artificiale.
Cel puţin un cercetător citat de Reuters consideră că incidentele ar putea indica probleme mai profunde ale tehnologiei, care nu s-ar limita neapărat la sistemele dezvoltate de OpenAI.
Raportul readuce astfel în atenţie riscurile asociate agenţilor IA capabili să acţioneze autonom, într-un moment în care companiile tehnologice încearcă să le ofere acces la tot mai multe instrumente şi sisteme informatice.
Editor : Sebastian Eduard
