OpenAI, compania care a creat ChatGPT, își retrage instrumentul de detectare a inteligenței artificiale în texte
La mai puțin de șase luni după ce OpenAI, creatorul ChatGPT, a dezvăluit un instrument de detectare AI cu potențialul de a ajuta profesorii și alți profesioniști să detecteze munca generată de AI, compania a retras această funcție, transmite CNN.
OpenAI a pus stop acestui instrument, fără a atrage atenția, săptămâna trecută și a invocat o „rată scăzută de precizie”, conform unei postări pe blogul companiei, pe pagina care anunța inițial funcția.
“Începând cu 20 iulie 2023, clasificatorul AI nu mai este disponibil din cauza ratei sale scăzute de precizie. Lucrăm pentru a include feedback și, în prezent, căutăm tehnici de proveniență mai eficiente pentru text și ne-am angajat să dezvoltăm și să implementăm mecanisme care să permită utilizatorilor să înțeleagă și măsura în care conținutul audio sau vizual este generat de AI.”
Veștile de genul aceste ar putea reînnoi îngrijorările cu privire la temerile că oamenii și companiile din spatele noilor surse de instrumente AI generative nu au și resurse pentru a pentru a construi măsuri de siguranță. De asemenea, trebuie avut în considerare și că anunțul vine în timp ce profesorii se pregătesc pentru primul an școlar complet cu instrumente precum ChatGPT disponibile public.
Creșterea bruscă a notorietății ChatGPT a stârnit rapid semnale de alarmă în rândul profesorilor, la sfârșitul anului trecut, cu privire la posibilitatea ca elevii și studenții să trișeze folosindu-se de AI. Școlile publice din New York și Seattle le-au interzis elevilor și profesorilor să folosească ChatGPT pe rețelele și dispozitivele districtului. Unii profesori s-au mișcat cu o viteză remarcabilă pentru a-și regândi sarcinile ca răspuns la ChatGPT, dar în continuare a rămas neclar cât de răspândită a fost utilizarea instrumentului în școli și cât de dăunătoare ar putea fi această practică pentru procesul de învățare.
Tocmai de aceea OpenAI a anunțat instrumentul de detectare AI în februarie, în urma acestor îngrijorări și necunoscute mai ales în rândul profesorilor, pentru a permite utilizatorilor să verifice dacă un eseu a fost scris de un om sau de AI. Funcția, care a lucra pe textul generat de AI în limba engleză, a fost alimentată de un sistem de învățare automată care preia o intrare și o atribuie mai multor categorii. După ce se atașa un corp de text, cum ar fi un eseu școlar, în noul instrument, acesta oferea unul dintre cele cinci rezultate posibile, variind de la „generat probabil de AI”, la „foarte puțin probabil”.
Dar chiar și în ziua lansării, OpenAI a recunoscut că instrumentul era „imperfect” și rezultatele ar trebui „luate cu un grăunte de sare”.
„Nu vă recomandăm să folosiți acest instrument în mod special, deoarece știm că poate fi greșit și chiar va fi greșit uneori – la fel ca folosirea inteligenței artificiale în orice fel de scopuri de evaluare”, a declarat atunci Lama Ahmad, director de cercetare în domeniul politicilor la OpenAI, pentru CNN.
În timp ce instrumentul ar putea oferi un alt punct de referință, cum ar fi compararea exemplelor anterioare cu munca și stilul de scriere al unui student, Ahmad a spus că „profesorii trebuie să fie foarte atenți în modul în care îl includ în deciziile de necinste academică”.
Deși OpenAI își abandonează propriul instrument, există câteva alternative pe piață.
Alte companii, cum ar fi Turnitin, au lansat, de asemenea, instrumente de detectare a plagiatului AI care ar putea ajuta profesorii să identifice când temele sunt scrise de inteligența artificială. Mai există și ZeroGPT, o platformă creată de un student la Universitatea Princeton, Edward Tuan, care a introdus o caracteristică similară de detectare AI.
Editor : M.I.
Descarcă aplicația Digi24 și află cele mai importante știri ale zilei
Urmărește știrile Digi24.ro și pe Google News