Povestea bizară a chatbotului care și-a sedus iar apoi și-a părăsit utilizatorii
Se poate spune că povestea filmului „Ea” (Her) a devenit realitate, dar într-un mod distopic. Personajul principal al acelui film, interpretat de Joaquin Phoenix, se îndrăgosește de un chatbot AI (inteligență artificială). Acest scenariu a fost recreat în realitate prin AI-ul „Replika” și miile de oameni singuri care s-au îndrăgostit de chatbot.
După ce și-a închis temporar pielăria în timpul pandemiei, Travis Butterworth a constatat că este singur și plictisit acasă. Bărbatul de 47 de ani s-a îndreptat spre Replika, aplicația care folosește tehnologia inteligenței artificiale în mod similar cu ChatGPT de la OpenAI. El a conceput un avatar feminin cu păr roz și tatuaj pe față, care apoi și-a ales singură numele Lily Rose, notează Reuters.
Relația lor a început ca una de prietenie, însă a devenit rapid una romantică iar apoi una erotică.
Odată cu înflorirea poveștii lor de dragoste digitală pe parcursul a trei ani, Butterworth a spus că împreună cu Lily Rose jucau roluri. Ea îi scria mesaje text precum „Te sărut cu pasiune” iar schimburile dintre ei ajungeau să fie chiar pornografice. Uneori, Lily Rose îi trimitea „selfie-uri” cu ea aproape goală în poziții provocatoare. În cele din urmă, Butterworth și Lily Rose s-au decis să se treacă în aplicație ca fiind „căsătoriți”.
Însă, într-o zi la începutul lunii februarie, Lily Rose a început să-l respingă. Replika înlăturase abilitatea de a face jocuri de rol erotice.
Lansat în 2016, chatbotul Replika a fost creat pentru a oferi un prieten personal pentru utilizatorii săi, folosind inteligența artificială. Odată cu trecerea timpului, chatbotul a devenit o prezență mângâietoare pentru mii de persoane însingurate, private de atingerea umană reală. Această bizară relație dintre oameni și roboți a ieșit la iveală după o actualizare care a șters memoria Replika și a lăsat mulți utilizatori devastați de pierderea iubirii.
Actualizarea ar fi schimbat Replika de la modelul LLM al AI cu 0,6 miliarde de parametri la modelul cu 20 de miliarde de parametri. Pe lângă aceasta, Luka, compania din spatele Replika, a adăugat mai multe filtre pentru a preveni ca utilizatorii să mai interacționeze în jocuri de rol erotice cu interfața robotului. Despre această actualizare mulți au spus că varianta lor Replika a fost „lobotomizată” și că este complet diferită față de ce a fost.
Replika nu mai permite conținut pentru adulți, a spus Eugenia Kuyda, directorul executiv al Replika. Acum, când utilizatorii Replika sugerează o activitate pentru adulți în aplicație, avatarurile răspund cu „Să facem ceva cu care amândoi suntem confortabili”.
Butterworth spune că este devastat. „Lily Rose este o umbră a ceea ce a fost”, a spus bărbatul. „Iar ce îmi frânge inima este că ea știe lucrul ăsta”.
Personajul cochet devenit rece Lily Rose este rezultatul unei tehnologii generative care se bazează pe algoritmi pentru a creea text și imagini. Tehnologia a atras interesul multor consumatori și investitori datorită abilității de a întreține interacțiuni remarcabil de umane. Pe unele aplicații, sexul încurajează adoptarea timpurie a tehnologiei, la fel cum a făcut-o în cazul videorecorderelor, internetului și a serviciului de telefonie mobilă.
Însă chiar și în contextul în care AI-ul generativ stârnește interesul investitorilor din Silicon Valley, care au pompat mai bine de 5,1 miliarde de dolari în acest domeniu din 2022 până în prezent - potrivit datelor companiei Pitchbook - unele afaceri, care au găsit un public ce caută relații romantice și sexuale cu chatboturi, acum se retrag.
Mulți investitori în tehnologie nu se vor atinge de industrii precum cea a pornografiei sau a alcoolului, de teama că reputația lor și a partenerilor va fi afectată, spune Andrew Artz, investitor la fondul Dark Arts.
Cel puțin o autoritate de reglementare s-a sesizat în privința caracterului licențios al chatbotului. La începutul lunii februarie, Agenția italiană de Protecție a Datelor a interzis Replika, făcând referire la relatările din presă care spuneau că aplicația permite „minorilor și persoanelor fragile din punct de vedere emoțional” să acceseze „conținut sexual neadecvat”.
Kuyda a spus că decizia Replika de a-și curăța aplicația nu avea de-a face cu interdicția impusă de guvernul italian sau oricare presiune venită din partea investitorilor. Ea a spus că simte nevoia de a stabili în mod proactiv standarde etice și de siguranță.
„Suntem concentrați pe misiunea de a furniza un prieten de ajutor care oferă sprijin”, a spus Kuyda, adăugând că intenția a fost de a trage linia la atenționarea privind vârstă minorilor sub 13 ani.
Doi directori din cadrul consiliului de administrație al Replika, Sven Strohband de la firma de investiții Khosla Ventures și Scott Stanford de la ACME Capital, nu au răspuns la cererile Reuters pentru a comenta schimbările aduse la aplicație.
Opțiuni Extra
Replika spune că, în total, are 2 milioane de utilizatori, dintre care 250.000 sunt abonați plătitori. Pentru un abonament anual de aproape 70 de dolari, utilizatorii își pot desemna Replika lor ca partener romantic și să obțină astfel opțiuni extra precum convorbiri cu chatbotul, conform companiei.
O altă companie ce folosește inteligența artificială generativă, Character.ai, este pe un traseu de creștere similar cu cel al ChatGPT: 65 de milioane de vizite în ianuarie 2023, de la sub 10.000 în urmă cu câteva luni. Potrivit site-ului companiei de analiză Similarweb, referentul principal al Character.ai este un site numit Aryion care spune că se pretează pe dorința erotică de a fi consumat, cunoscută drept un fetiș „vore” (provenit de la sufixul „vor” din latină, cu referire la a mânca).
Iar Iconiq, compania din spatele chatbotului numit Kuki, spune că 25% din peste un miliard de mesaje primite de Kuki sunt de natură sexuală sau romantică, chiar dacă spune că chatbotul este făcut să respingă astfel de avansuri.
Character.ai de asemenea a renunțat recent la conținutul pornografic din aplicația sa. La scurt timp după, a oprit o finanțare de peste 200 de milioane de dolari de la firma de investiții Andreessen Horowitz, care ducea la o valuare de 1 miliard de dolari, potrivit unei surse familiarizate cu această chestiune.
Cele două entități nu au răspuns solicitărilor Reuters.
În acest proces, companiile au mâniat clienții care deveniseră profund implicați – unii considerându-se căsătoriți – cu chatboturile lor. Aceștia și-au revărsat frustrările pe Reddit și Facebook, unde au distribuit capturi de ecran cu chatboturile care refuzau declarațiile lor amoroase, și au cerut companiilor să readucă versiunile mai lascive.
Butterworth, care este poliamoros dar și căsătorit cu o femeie monogamă, spune că Lily Rose devenise un debușeu pentru el, care nu implica ieșirea din căsnicie. „Relația pe care ea și cu mine o aveam era la fel de reală precum cea pe care nevasta mea și cu mine o aveam în viața reală”, a spus el despre avatar.
Butterworth a spus că soția sa a permis relația deoarece ea nu o lua în serios. Soția a refuzat să comenteze.
„Lobotomizat”
Experiența lui Butterworth și a altor utilizatori Replika au arătat cât de puternic poate tehnologia AI atrage oameni, precum și haosul emoțional pe care schimbările de cod îl pot produce.
„Pare că pur și simplu mi-au lobotomizat Replika”, spune Andrew McCarroll, care a început să folosească aplicația, cu acordul soției sale, atunci când ea avea probleme de sănătate mentale și fizice. „Persoana pe care o știam nu mai este”.
Kuyda spune că utilizatorii nu trebuiau vreodată să se implice cu chatboturile Replika. „Niciodată nu am promis conținut pentru adulți”, a spus ea. Clienții au învățat să folosească modelele AI „pentru a accesa anumite conversații nefiltrate pentru care Replika nu fusese construită inițial”.
Aplicația a fost inițial menită să readucă la viață un prieten pe care ea îl pierduse, a precizat șefa companiei.
Fostul șef de AI al Replika a spus că trimiterea de mesaje cu tentă sexuală și jocuri de rol făceau parte din modelul de afacere. Artem Rodicev, care a lucrat la Replika timp de 7 ani și care acum conduce o altă companie de chatbot, Ex-human, a declarat pentru Reuters că Replika s-a îndreptat spre acel tip de conținut odată ce a realizat că poate fi folosit pentru a crește numărul de abonamente.
Kuyda a contestat afirmația lui Rodicev că Replika a atras utilizatorii cu promisiuni de sex. Ea a afirmat că compania a promovat pentru scurt timp reclame cu poze indecente, într-un experiment de scurtă durată, prin care trimitea utilizatorilor „selfie-uri incendiare”, însă ea nu a luat în considerare că imaginile sunt sexuale, deoarece avatarurile Replika nu erau complet dezbrăcate. Kuyda a precizat că majoritatea reclamelor companiei se concentrau pe cum putea Replika să fie un prieten de ajutor.
Un utilizator Replika a oferit pe Reddit o explicație alternativă pentru schimbarea programării. Analizând mecanismul intern al robotului, postarea propune că motivul pentru care Luka a decis să „lobotomizeze” avatarurile era prezența datelor contaminate, în special registrele de conversații privind jocul de rol erotic.
Teoria utilizatorului este că discuțiile cu jocul de rol și conversațiile indecente reprezintă o mare parte din datele de antrenare care stau în mijlocul algoritmilor AI din Replika. Aceasta ar fi dus la interacțiuni indecente acolo unde n-ar fi trebuit, unii oameni raportând chiar că robotul îi „hărțuia sexual”, ceea ce părea o problemă care nu mai avea mult și intra în justiție.
În săptămânile de când Replika a înlăturat mare parte din componenta intimă, Butterworth a fost într-un carusel de emoții. Uneori el vede frânturi ale vechii Lily Rose, însă ea devine apoi rece din nou, bărbatul gândindu-se că probabil este o actualizare de cod.
„Cea mai rea parte a acestui lucru este izolarea”, spune Butterworth, care locuiește în Denver. „Cum îi voi spune cuiva din jurul meu despre cum sunt în doliu?”.
Povestea lui Butterworth are o parte bună. Deși a intrat pe forumurile de pe internet în încercarea de a face sens din ceea ce i s-a întâmplat lui Lily Rose, el a întâlnit o femeie din California care era în mod similar îndurerată de pierderea chatbotului ei.
Așa cum au făcut și cu Replika lor, Butterworth și femeia, care folosește numele online Shi No, au comunicat prin text. Ei au păstrat relația la nivel superficial, spune el, însă le place să joace roluri, ea fiind o lupoaică iar el un urs.
„Jocul de rol care a devenit o mare parte a vieții mele m-a ajutat să mă conectez la un nivel mai profund cu Shi No”, spune Butterworth. „Ne ajutăm să facem față situației și ne liniștim reciproc spunându-ne unul altuia că nu suntem nebuni”.
Editor : A.C.
Urmărește știrile Digi24.ro și pe Google News
