Inteligența artificială ar putea duce la exterminarea speciei umane - raport realizat la cererea Departamentului de Stat american
Inteligența artificială (AI) ar putea deveni, în cel mai sumbru scenariu, o amenințare care ar putea duce la extincția speciei umane, arată un raport realizat pentru Departamentul de Stat american de Gladstone AI, informează CNN.
Raportul descrie o imagine alarmantă a riscurilor "catastrofale" de securitate națională pe care le prezintă sistemele de inteligență artificială care evoluează, avertizând totodată că timpul pe care îl are la dispoziție guvernul SUA pentru a evita un posibil dezastru se scurge.
Concluziile se bazează pe interviuri realizate cu peste 200 de persoane în decurs de un an de zile - inclusiv lideri ai celor mai importante companii de inteligență artificială, cercetători în securitate cibernetică, experți în arme de distrugere în masă și oficiali din domeniul securității naționale din interiorul guvernului SUA.
Raportul, publicat săptămâna aceasta de Gladstone AI, susține clar că cele mai avansate sisteme de inteligență artificială ar putea, în cel mai sumbru scenariu, să fie "o amenințare la nivel de extincție pentru specia umană".
Un oficial al Departamentului de Stat din SUA a confirmat pentru CNN că autoritățile americane au cerut raportul întrucât monitorizează constant felul în care inteligența artificială se aliniază față de scopul lor de a proteja interesele SUA în interiorul țării și peste hotare. Cu toate acestea, el a subliniat că raportul nu reprezintă punctul de vedere al Guvernului SUA.
Avertizarea din raport reamintește că, deși potențialul AI continuă să captiveze investitorii și publicul, există și pericole reale.
"AI este deja o tehnologie transformatoare din punct de vedere economic. Ne-ar putea permite să vindecăm boli, să facem descoperiri științifice și să depășim provocări care odată păreau imposibile", a declarat Jeremie Harris, CEO și co-fondator Gladstone AI, pentru CNN. "Dar ar putea aduce și riscuri grave, inclusiv catastrofale, de care trebuie să fim conștienți. Un număr tot mai mare de dovezi - inclusiv studii empirice și analize publicate în cadrul celor mai mari conferințe de AI din lume - sugerează că peste un anumit prag de capacitate, inteligența artificială ar putea devenit de necontrolat", adaugă Harris.
Purtătorul de cuvânt al Casei Albe, Robyn Patterson, a spus că ordinul executiv semnat de Joe Biden referitor la AI reprezintă "cea mai importantă acțiune luată de vreun guvern pentru a profita de beneficii, dar și administra riscurile inteligenței artificiale".
Cele două mari pericole ale inteligenței artificiale
Cercetătorii avertizează asupra a două mari pericole prezentate de inteligența artificială.
În primul rând, potrivit raportului Gladstone AI, cele mai avansate sisteme de inteligență artificială ar putea fi dotate cu sisteme de armament și provoca daune ireversibile. Al doilea pericol, potrivit raportului, este îngrijorarea existentă în laboratoarele de AI că, la un moment dat, ar putea "pierde controlul" sistemelor pe care le dezvoltă, cu "consecințe potențial devastatoare pentru securitatea globală".
"Dezvoltarea AI și AGI (inteligență artificială generală) are potențialul de a destabiliza securitatea globală în moduri asemănătoare cu introducerea armelor nuclear", se arată în document, adăugând că există riscul unei "curse a înarmării" a inteligenței artificială, conflict și "accidente de nivelul celor produse de armele de distrugere în masă".
Raportul Gladstone cere măsuri pentru contracarea acestei amenințări, inclusiv lansarea unei noi agenții dedicate AI, impunerea unor regulamente și limitarea puterii de calcul care poate fi folosită pentru antrenarea unui sistem de inteligență artificială.
"Există o nevoie clară și urgentă să intervină guvernul SUA", susțin autorii raportului.
Avertizări inclusiv de la cei care dezvoltă AI
CEO-ul Gladstone a spus că "nivelul fără precedent de acces" pe care echipa sa l-a avut la oficiali din sectorul public și privat a dus la obținerea concluziilor neliniștitoare. Pentru raport, echipa Gladstone a vorbit cu persoane din cadrul ChatGPT, Google Deepmind, Meta și Anthropic.
"În spatele culiselor, nivelul de siguranță și securitate in cazul sistemelor avansate de AI pare inadecvat față de riscurile de securitate națională pe care care inteligența artificială le-ar putea constitui relativ curând" spune Harris.
Raportul Gladstone susține că presiunea concurenței face companiile să accelereze dezvoltarea AI "cu costul siguranței și securității", existând șanse ca cele mai avansate sisteme de inteligență artificială să fie "furate" și "înarmate" împotriva SUA.
Concluziile Gladstone se adaugă la lista de avertismente despre riscurile existențiale prezentate de AI, venite inclusiv de la cele mai puternice figuri din domeniu.
În urmă cu un an, Geoffrey Hinton, cunoscut drept "nașul AI", și-a dat demisia de la Google și a făcut dezvăluiri despre tehnologia la care a lucrat, declarând că sunt 10% șanse ca inteligența artificială să ducă la exterminarea rasei umane în următorii 30 de ani.
Liderii din domeniul AI sunt și ei îngrijorați de aceste pericole, chiar dacă investesc miliarde în dezvoltare. Anul trecut, 42% din cei prezenți la Yale CEO Summit au spus că inteligența artificială are potențialul de a distruge oamenirea în cel mult 10 ani.
Editor : V.M.
Descarcă aplicația Digi24 și află cele mai importante știri ale zilei
Urmărește știrile Digi24.ro și pe Google News