Un om de știință, care tocmai a primit premiul Nobel, a calculat riscul ca inteligența artificială să „distrugă omenirea”
Omul de știință britanico-canadian, cunoscut drept „nașul” inteligenței artificiale (IA), a calculat un risc de 10-20% ca IA să ducă la „dispariția omenirii” în următoarele trei decenii, avertizând că ritmul schimbărilor tehnologice este „mult mai rapid” decât se aștepta.
Prof. Geoffrey Hinton, care a primit anul acesta Premiul Nobel pentru Fizică pentru munca sa în domeniul inteligenței artificiale, declarase anterior că există o șansă de 10% ca tehnologia să ducă la dispariția omului în următorii 30 de ani.
Întrebat în cadrul emisiunii Today de la BBC Radio 4 dacă și-a schimbat analiza cu privire la o potențială apocalipsă a inteligenței artificiale și la șansa de 1 la 10 ca aceasta să se întâmple, el a răspuns: „Între 10% și 20%”, potrivit The Guardian.
„Nu am mai fost niciodată în situația de a gestiona ceva mai inteligent decât noi”, a mai spus omul de știință, adăugând: „Și câte exemple cunoașteți în care un lucru mai inteligent este controlat de unul mai puțin inteligent? Sunt foarte puține exemple. Există relația dintre o mamă și un copil. Evoluția a lucrat mult pentru a permite copilului să controleze mama, dar acesta este cam singurul exemplu pe care îl știu.”
Anul trecut, Hinton a atras atenția publică după ce și-a dat demisia de la Google pentru a vorbi mai deschis despre riscurile dezvoltării necontrolate a inteligenței artificiale, menționând îngrijorări legate de faptul că „actori rău intenționați” ar putea folosi tehnologia pentru a face rău altora. O preocupare majoră a celor care militează pentru siguranța IA este că dezvoltarea unei inteligențe artificiale generale – sau a unor sisteme mai inteligente decât oamenii – ar putea duce la o amenințare existențială, scăpând de sub controlul uman.
Anul trecut, Hinton a atras atenția publică după ce a demisionat de la Google pentru a vorbi mai deschis despre riscurile pe care le prezintă dezvoltarea necontrolată a inteligenței artificiale, invocând îngrijorări legate de faptul că „actorii rău intenționați” vor folosi tehnologia în scopuri negative.
„Situația în care ne aflăm acum este că majoritatea experților din domeniu cred că, probabil în următorii 20 de ani, vom dezvolta o inteligență artificială mai inteligentă decât oamenii. Și este un gând foarte înfricoșător.”
Hinton a declarat că ritmul dezvoltării este „foarte, foarte rapid, mult mai rapid decât mă așteptam” și a cerut reglementarea tehnologiei.
„Grija mea este că mâna invizibilă (piața liberă n.r.) nu ne va menține în siguranță. Așadar, lăsarea acesteia (inteligenței artificiale n.r.) exclusiv pe seama intereselor de profit ale marilor companii nu va fi suficientă pentru a ne asigura că acestea o dezvoltă în siguranță”, a spus el. „Singurul lucru care poate forța aceste mari companii să facă mai multe cercetări în privința siguranței este reglementarea guvernamentală.”
Hinton este unul dintre cei trei „nași ai inteligenței artificiale” care au câștigat Premiul Turing – echivalentul Premiului Nobel pentru informatică – pentru munca lor. Cu toate acestea, unul dintre cei trei, Yann LeCun, cercetător șef în domeniul inteligenței artificiale la Meta, compania lui Mark Zuckerberg, a minimalizat amenințarea existențială și a spus că inteligența artificială „ar putea de fapt să salveze omenirea de la extincție.”
