Geoffrey Hinton, avertisment după ce a primit Premiul Nobel pentru cercetarea AI: „Va fi comparabilă cu Revoluția Industrială”
Când informaticianul Geoffrey Hinton a câștigat marți Premiul Nobel pentru fizică pentru munca sa privind învățarea automată, el a emis imediat un avertisment cu privire la puterea tehnologiei pe care cercetarea sa a ajutat-o să o propulseze: inteligența artificială, scrie CNN.
„Va fi comparabilă cu Revoluția Industrială”, a spus el imediat după anunț. „Dar în loc să îi depășească pe oameni în ceea ce privește puterea fizică, va depăși oamenii în capacitatea intelectuală. Nu avem nicio experiență despre cum este să ai lucruri mai inteligente decât noi.”
Hinton, care a părăsit Google pentru a avertiza despre potențialele pericole ale inteligenței artificiale, a fost numit „nașul tehnologiei”. Acum afiliat la Universitatea din Toronto, el a împărțit premiul cu profesorul de la Universitatea Princeton, John Hopfield, „pentru descoperiri și invenții fundamentale care permit învățarea automată cu rețele neuronale artificiale”.
Și, deși Hinton recunoaște că inteligența artificială ar putea transforma în bine anumite părți ale societății – ducând la o „îmbunătățire uriașă a productivității” în domenii precum îngrijirea sănătății, de exemplu – el a subliniat, de asemenea, potențialul pentru „un număr de posibile consecințe negative, în special amenințarea aceste lucruri scapă de sub control.”
„Sunt îngrijorat că consecința generală a acestui lucru ar putea fi sisteme mai inteligente decât noi, care în cele din urmă să preia controlul”, a spus el.
Hinton nu este primul laureat al Premiului Nobel care a avertizat despre riscurile descoperirilor din cercetarea unui domeniu, cu care a câștigat prestigioasa distincție. Iată o scurtă listă cu oameni de știință care au emis avertismente similare cu privire la propria lor muncă.
1935: Arme nucleare
Premiul Nobel pentru chimie din 1935 a fost împărțit de o echipă de soț și soție, Frederic Joliot și Irene Joliot-Curie (fiica laureaților Marie și Pierre Curie), pentru descoperirea primilor atomi radioactivi creați artificial. A fost o muncă care ar contribui la progrese importante în medicină, inclusiv tratamentul cancerului, dar și la crearea bombei atomice.
În prelegerea sa de acceptare a premiului Nobel, Joliot a încheiat cu avertismentul că viitorii oameni de știință vor „fi capabili să producă transmutări de tip exploziv, adevărate reacții chimice în lanț”.
„Dacă astfel de transmutări reușesc să se răspândească în materie, eliberarea enormă a energiei utilizabile poate fi imaginată”, a spus el. „Dar, din păcate, dacă contagiunea s-a extins la toate elementele planetei noastre, consecințele dezlănțuirii unui astfel de cataclism pot fi privite doar cu teamă.”
1945: Rezistența la antibiotice
Sir Alexander Fleming a împărtășit Premiul Nobel pentru medicină din 1945 cu Ernst Chain și Sir Edward Florey pentru descoperirea penicilinei și aplicarea acesteia în vindecarea infecțiilor bacteriene.
Fleming a făcut descoperirea inițială în 1928 și, în momentul în care și-a ținut prelegerea Nobel în 1945, avea deja un avertisment important pentru lume: „Nu este dificil să faci microbii rezistenți la penicilină în laborator prin expunerea lor la concentrații care nu suficiente pentru a-i ucide și același lucru s-a întâmplat ocazional în corp”, a spus el.
„Ar putea veni vremea când penicilina poate fi cumpărată de oricine din magazine”, a continuat el. „Atunci există pericolul ca omul ignorant să se subdoeze cu ușurință și, prin expunerea microbilor săi la cantități neletale de medicament, să-i facă rezistenți.”
La aproape un secol de la descoperirea inițială a lui Fleming, rezistența antimicrobiană – rezistența agenților patogeni precum bacteriile la medicamentele menite să le trateze – este considerată una dintre cele mai mari amenințări la adresa sănătății publice globale, conform Organizației Mondiale a Sănătății, fiind responsabilă pentru 1,27 milioane de decese în 2019.
Partea cheie a avertismentului lui Fleming a fost utilizarea excesiv de largă a antibioticelor, mai degrabă decât ideea folosirii unei doze mici.
1980: ADN recombinant
Paul Berg, care a câștigat în 1980 Premiul Nobel pentru chimie pentru dezvoltarea ADN-ului recombinant, o tehnologie care a ajutat la lansarea industriei biotehnologiei, nu a emis un avertisment la fel de dur ca unii dintre colegii săi laureați cu privire la riscurile potențiale ale cercetării sale.
Dar a recunoscut temerile legate de ceea ce ar putea duce ingineria genetică, inclusiv războiul biologic, alimentele modificate genetic și terapia genetică, o formă de medicină care implică înlocuirea unei gene defecte care provoacă boala cu una care funcționează normal.
În prelegerea sa Nobel din 1980, Berg s-a concentrat în mod special pe terapia genică, spunând că abordarea „are multe capcane și necunoscutele, printre care se numără întrebări referitoare la fezabilitatea și dezirabilitatea unei anumite boli genetice, ca să nu mai vorbim despre riscuri.”
„Mi se pare”, a continuat el, „că dacă vrem să mergem vreodată pe aceste linii, vom avea nevoie de o cunoaștere mai detaliată a modului în care genele umane sunt organizate și cum funcționează și sunt reglementate.”
Într-un interviu decenii mai târziu, Berg a remarcat că el și alți oameni de știință din domeniu s-au reunit deja public pentru a recunoaște potențialele pericole ale tehnologiei și a lucra la măsuri de protecție, într-o conferință în 1975.
Și, deși Berg și-a exprimat el însuși îngrijorări, el și-a încheiat prelegerea Nobel în 1980 cu un apel la optimism și „nevoia de a continua”.
„Descoperirea ADN-ului recombinant ne-a oferit o abordare nouă și puternică a întrebărilor care l-au intrigat și l-au afectat pe om de secole”, a spus el. „Eu, unul, nu m-aș scăpa de această provocare.”
2020: Editarea genelor
Acum patru ani, Jennifer Doudna și Emmanuelle Charpentier au împărțit Premiul Nobel pentru chimie pentru dezvoltarea unei metode de editare a genomului numită CRISPR-Cas9.
În prelegerea sa, Doudna a detaliat „oportunități extraordinare și interesante” pentru tehnologie în sănătatea publică, agricultură și biomedicină.
Dar ea a precizat că munca trebuie să se desfășoare cu mult mai atent atunci când se aplică celulelor germinale umane, ale căror modificări genetice ar fi transmise descendenților, față de celulele somatice, unde orice modificări genetice ar fi limitate la individ.
„Heritabilitatea face ca editarea genomului celulelor germinale să fie un instrument foarte puternic atunci când ne gândim la folosirea lui în plante sau la folosirea lui pentru a crea modele animale mai ferite de boli umane, de exemplu”, a spus Doudna. „Este foarte diferit când ne gândim la enormele probleme etice și societale ridicate de posibilitatea de a folosi editarea liniei germinale la oameni.”
Doudna, care a fondat Innovative Genomics Institute, a declarat pentru CNN săptămâna aceasta că ea crede că „avertismentele adecvate din partea oamenilor de știință cu privire la potențiala utilizare greșită a descoperirilor lor reprezintă o responsabilitate importantă și un serviciu public util, în special atunci când munca are implicații societale largi”.
„Cei dintre noi cei mai apropiați de știința CRISPR înțeleg că este un instrument puternic care ne poate transforma în mod pozitiv sănătatea și lumea, dar ar putea fi folosit în mod nefast”, a spus ea. „Am văzut această capacitate de dublă utilizare cu alte tehnologii transformatoare precum energia nucleară – și acum cu AI.”
Editor : M.I.
Descarcă aplicația Digi24 și află cele mai importante știri ale zilei
Urmărește știrile Digi24.ro și pe Google News