Ce putem face dacă inteligența artificială devine conștientă. Planul cercetătorilor pentru a evita scenariul „Frankenstein”
Evoluția rapidă a inteligenței artificiale a adus în discuție întrebări de etică ce până nu demult apăreau doar în literatura științifico-fantastică: dacă sistemele AI vor putea într-o zi să „gândească” la fel ca oamenii, spre exemplu, vor putea ele să trăiască experiențele noastre subiective? Dacă roboții vor știi ce înseamnă suferința, este omenirea pregătită pentru tratarea lor?
Un grup de filozofi și informaticieni susțin că omenirea trebuie trateze cu seriozitate problema îngrijirii acestor sisteme AI. Într-un raport publicat luna trecută și citat în revista Nature, ei cer ca firmele de tehnologie AI să nu se preocupe doar de evaluarea sistemelor lor pentru a descoperi dacă au dobândit conștiință de sine și capacitatea de a lua decizii independent, ci să vină și cu politici pentru tratarea AI-ului, dacă aceste scenarii devin realitate.
Oamenii de știință spun că dacă nu vom recunoaște că un sistem AI a devenit conștient, acest lucru ar putea duce la neglijarea sa, la vătămare și la suferință. Unii cred că această idee este inutilă, mai ales în condițiile în care inteligența artificială conștientă pare atât de departe și s-ar putea dovedi o realizare imposibilă.
Totuși, „consecințele manifestării [conștiinței] sunt destul de profunde încât nu trebuie să ignorăm această posibilitate”, a scris cercetătoarea Anil Seth de la Universitatea din Sussex, Brighton, Marea Britanie, pentru revista de știință Nautilius. „Problema cu creatura lui Frankenstein nu a fost că a prins viață, ci că era conștientă și putea simți.”
Miza este cu atât mai mare cu cât omenirea depinde tot mai mult de aceste tehnologii, a spus și Jonathan Mason, un matematician din Oxford. El susține că găsirea unor metode de evaluare a sistemelor AI pentru a determina dacă au dezvoltat o conștiință ar trebui să fie o prioritate.
Oamenii ar putea avea de suferit dacă sistemele AI nu sunt testate corect pentru evaluarea conștiinței, a spus și Jeff Sebo, filozof de la Universitatea New York. Dacă presupunem greșit că un sistem este conștient, ar putea fi alocate fonduri pentru bunăstarea sa care puteau fi folosite mai bine pentru oamenii și animalele ce au nevoie de îngrijire.
În luna septembrie, Organismul consultativ la nivel înalt al Națiunilor Unite privind inteligența artificială a emis un raport legat de felul în care lumea ar trebui să gestioneze tehnologia AI. În document nu se menționează nimic despre conștiința inteligenței artificiale, în ciuda faptului că mai mulți oameni de știință au cerut ca grupul să susțină cercetarea în privința evaluării conștiinței în cazul roboților.
Cu toate că nu se știe dacă sistemele AI vor căpăta vreodată conștiință de sine – o stare care este greu de evaluat chiar și la oameni și animale – incertitudinea nu ar trebui să descurajeze eforturile de dezvoltare a unor protocoale pentru evaluarea situației, potrivit lui Sebo.
Oamenii de știință au propus o listă de criterii care ne pot ajuta să identificăm sisteme ce au șanse mari de a fi conștiente. Criteriile se bazează pe teorii ale conștiinței din domeniul neuroștiinței.
Editor : Raul Nețoiu
Descarcă aplicația Digi24 și află cele mai importante știri ale zilei
Urmărește știrile Digi24.ro și pe Google News