„Nașul” inteligenței artificiale demisionează de la Google și avertizează asupra pericolelor care ne așteaptă
Geoffrey Hinton, considerat pe scară largă drept „nașul” inteligenței artificiale (AI) și-a părăsit slujba, a demisionat de la Google în această săptămână. Acesta și-a motivat gestul, invocând preocupările legate de avalanșa de informații, videoclipuri și fotografii false online și de posibilitatea ca inteligența artificială să distrugă piața muncii, scrie New York Times. Totodată, Hinton a transmis, într-un interviu pentru BBC, că pericolele reprezentate de chatboții AI sunt „destul de înfricoșătoare”.
Geoffrey Hinton, acum în vârstă de 75 de ani, a declarat că a demisionat pentru a vorbi liber despre pericolele inteligenței artificiale și că regretă în parte contribuția sa la acest domeniu. El a fost adus de Google în urmă cu un deceniu pentru a ajuta la dezvoltarea tehnologiei AI a companiei.
În 2012, împreună cu doi dintre studenții săi de la Universitatea din Toronto, Geoffrey Hinton a construit o rețea neuronală, iar de-a lungul timpului, cercetările sale au deschis calea pentru sistemele actuale precum ChatGPT.
Geoffrey Hinton, an AI pioneer, quit his job at Google, where he has worked for more than decade, so he can freely speak out about the risks posed by AI. “It is hard to see how you can prevent the bad actors from using it for bad things,” he said. https://t.co/DJ9m6ilgvi pic.twitter.com/ZwtCMEQGrb
— The New York Times (@nytimes) May 1, 2023
Oamenii nu vor mai putea discerne ce este adevărat
Geoffrey Hinton a declarat pentru cotidianul american New York Times că, până anul trecut, a crezut că Google a fost un „administrator adecvat” al tehnologiei, dar acest lucru s-a schimbat odată ce Microsoft a început să încorporeze un chatbot în motorul său de căutare Bing, iar compania a început să devină îngrijorată de potențialul risc îndreptat spre propriul business.
Potrivit jurnaliștilor de la New York Times, preocuparea lui Hinton pe termen scurt este ceva ce a devenit deja o realitate: oamenii nu vor mai putea discerne ce este adevărat cu fotografiile, videoclipurile și textele generate de AI care inundă internetul.
De asemenea, Hinton s-a arătat îngrijorat de faptul că AI va înlocui, în cele din urmă, locuri de muncă precum asistenții judiciari, asistenții personali și alte „munci de rutină”, și, potențial, și altele în viitor.
Citește și: Serviciile secrete britanice avertizează guvernul asupra riscurilor Inteligenţei Artificiale
Care este poziția Google
Șeful departamentului de știință al Google, Jeff Dean, a transmis printr-un comunicat de presă că Google a declarat că „rămânem angajați în abordarea responsabilă a AI. Învățăm în permanență pentru a înțelege riscurile emergente, inovând în același timp cu îndrăzneală”.
După ce OpenAI, un start-up din San Francisco, a lansat în martie o nouă versiune a ChatGPT, peste 1.000 de lideri din domeniul tehnologiei și cercetători au semnat o scrisoare deschisă în care au cerut un moratoriu de șase luni asupra dezvoltării de noi sisteme, deoarece tehnologiile de inteligență artificială prezintă „riscuri profunde pentru societate și umanitate”.
Câteva zile mai târziu, 19 actuali și foști lideri ai Asociației pentru Progresul Inteligenței Artificiale, o societate academică cu o vechime de 40 de ani, au publicat propria scrisoare de avertizare cu privire la riscurile inteligenței artificiale.
Din acest grup făcea parte Eric Horvitz, director științific la Microsoft, care a implementat tehnologia OpenAI într-o gamă largă de produse, inclusiv în motorul de căutare Bing.
Geoffrey Hinton nu a semnat niciuna dintre aceste scrisori și a declarat că nu a vrut să critice public Google sau alte companii până când nu își va părăsi locul de muncă. Luna trecută, el a anunțat compania că demisionează.
Citește și: Apelul disperat al unui celebru cercetător: Opriți Inteligența Artificială sau oamenii vor muri
Riscurile AI
În discuția cu jurnaliștii de la BBC, Geoffrey Hinton a transmis că în acest moment AI nu depășește capacitatea umană de a raționa, dar acest lucru se va întâmpla curând.
„În momentul de față, ceea ce vedem este că chatboți precum GPT-4 eclipsează omul în ceea ce privește cantitatea de cunoștințe generale acumulate și o eclipsează cu mult. În ceea ce privește raționamentul, nu este la fel de bun, dar face deja raționamente simple. Și, având în vedere ritmul de progres, ne așteptăm ca lucrurile să evolueze destul de repede. Așa că trebuie să ne facem griji în această privință. În acest moment, sistemele AI nu sunt mai inteligente decât noi, din câte îmi dau seama. Dar cred că în curând ar putea fi”, a ținut să spună Hinton.
Separat, în discuția cu jurnaliștii de la The New York Times, Hinton a spus se teme în primul rând de faptul că persoane rău intenționate ar putea folosi inteligența artificială pentru „lucruri rele”. Aparent, acesta crede că schimbarea obiectivelor AI „este doar cel mai rău lucru care se poate întâmpla, dar este un scenariu de coșmar”.
„Vă puteți imagina, de exemplu, că o persoană rău intenționată, cum ar fi președintele rus Vladimir Putin, ar decide să dea boților capacitatea de a-și crea propriile obiective secundare”, a mai spus Geoffrey Hinton.
Omul de știință a avertizat că acest lucru ar putea „crea în cele din urmă obiective secundare precum „trebuie să obțin mai multă putere”.
„Am ajuns la concluzia că tipul de inteligență pe care îl dezvoltăm este foarte diferit de inteligența pe care o avem noi, oamenii. Noi suntem sisteme biologice, iar acestea sunt sisteme digitale. Iar marea diferență este că, în cazul sistemelor digitale, acestea creează mai multe copii ale aceluiași set de sarcini, pentru același model al lumii în care trăim. Și toate aceste copii pot învăța separat, dar își pot împărtăși cunoștințele instantaneu”, a explicat Geoffrey Hinton.
În plus, omul de știință a explicat și faptul că „este ca și cum ai avea 10.000 de oameni și de fiecare dată când o persoană a învățat ceva, toată lumea află instantaneu”. „Altfel spus, chatboții pot afla, cunoaște și evolua mult mai mult și mult mai repede decât orice persoană umană”, a conchis Geoffrey Hinton.
Editor : M.D.B.
Descarcă aplicația Digi24 și află cele mai importante știri ale zilei
Urmărește știrile Digi24.ro și pe Google News