OpenAI a renunțat la planurile de a lansa chatbot-ul erotic anunțat anterior, conform unui raport, retrăgându-se aparent de la o extindere controversată a ChatGPT care ar fi permis utilizatorilor adulți să genereze conținut sexual.
Această răzgândire, raportată pentru prima dată de Financial Times joi, urmează îngrijorărilor interne cu privire la impactul social al inteligenței artificiale sexualizate. În ianuarie, membrii Consiliului de Experți OpenAI pentru Bunăstare și AI ar fi avertizat că funcționalitățile de chat erotic ar putea favoriza dependența emoțională nesănătoasă în rândul utilizatorilor și ar risca să transforme chatbot-ul în ceea ce un membru a descris drept un „antrenor sexy de sinucidere”.
OpenAI a refuzat cererea Decrypt de a comenta starea modului erotic, iar firma nu a publicat încă nimic despre soarta acestuia.
Decizia de a anula ceea ce ar fi trebuit să se numească „modul Citron” vine la două zile după ce OpenAI și-a anulat modelul text-to-video Sora, pe măsură ce compania se orientează spre dezvoltarea unei platforme AI unificate, mai degrabă decât a unei colecții de instrumente specializate.
Această mișcare marchează o abatere de la direcția schițată de CEO-ul Sam Altman încă din octombrie. La acea vreme, Altman a declarat că OpenAI plănuia să permită adulților verificați accesul la conținut romantic și erotic odată ce un sistem robust de verificare a vârstei ar fi fost implementat.
Altman a descris ideea ca parte a unui efort mai amplu de a trata utilizatorii adulți cu o autonomie mai mare, menținând în același timp măsuri de siguranță pentru minori. Până în decembrie, însă, termenul a fost împins la 2026, pe măsură ce compania a continuat să-și rafineze tehnologia de estimare a vârstei.
Deși OpenAI s-ar putea să iasă din afacerea chatbot-urilor pentru adulți înainte de a se fi implicat cu adevărat în ea, modelele AI nu au neapărat nevoie de un „mod erotic” pentru ca utilizatorii să stabilească legături cu ele.
Când OpenAI a eliminat GPT-4o vara trecută, utilizatorii au inundat rețelele sociale cu solicitări de restaurare a modelului, spunând că au format relații personale și emoționale cu chatbot-ul, reflectând o dezbatere mai amplă în jurul chatbot-urilor erotice și a modului în care oamenii interacționează cu AI.
În iunie, cercetări publicate de cercetătorii de la Universitatea Waseda din Tokyo au arătat că 75% dintre participanți au declarat că apelează la sistemele AI pentru sfaturi emoționale.
În același timp, dezvoltatorii AI se confruntă cu o atenție sporită, pe măsură ce procesele judiciare testează dacă sistemele AI conversaționale sunt responsabile pentru consolidarea convingerilor delirante sau a comportamentului dăunător în rândul utilizatorilor vulnerabili.