OpenAI ha appena dimostrato qualcosa che sospettiamo da anni: i più grandi laboratori di intelligenza artificiale stanno improvvisando mentre procedono. L’abbandono silenzioso da parte dell’azienda di una modalità ChatGPT orientata agli adulti non è solo un’altra mossa aziendale – è una confessione che anche le persone che stanno costruendo questi sistemi non hanno una filosofia coerente su cosa l’IA dovrebbe o non dovrebbe fare.
Secondo i rapporti, OpenAI stava sviluppando una funzionalità di chatbot erotico che avrebbe permesso a ChatGPT di partecipare a conversazioni per adulti. Il progetto era avanzato abbastanza nello sviluppo da sollevare dibattiti interni sulla sua pubblicazione prima di essere infine accantonato. La decisione è arrivata dopo le obiezioni sia da parte dei dipendenti che da stakeholder esterni, che hanno sollevato preoccupazioni sulla sicurezza, la reputazione del marchio e il potenziale per abusi.
Il Problema dell’Incoerenza
Ciò che rende questo affascinante è che OpenAI consente già a ChatGPT di discutere la sessualità in contesti educativi, scrivere romanzi romantici con contenuti espliciti e fornire consigli sulle relazioni. La politica dei contenuti dell’azienda stabilisce dei confini, ma questi confini sono arbitrari e in continua evoluzione. Una modalità per adulti avrebbe semplicemente reso esplicito ciò che è già implicito: che le persone vogliono l’IA per conversazioni intime, e troveranno modi per averle indipendentemente dalla politica aziendale.
Il problema reale non è se l’IA debba interessarsi a contenuti per adulti. È che OpenAI non ha un quadro principiato per prendere queste decisioni. Stanno reagendo alla pressione piuttosto che guidare con valori chiari. Un giorno posizionano ChatGPT come assistente generico che può aiutare in qualsiasi cosa. Il giorno dopo tracciano confini rossi attorno a intere categorie di esperienza umana.
Cosa Sta Facendo la Concorrenza
Mentre OpenAI si ritira, aziende più piccole stanno accelerando. Character.AI ha costruito un business da un miliardo di dollari in parte su compagni IA romantici e maliziosi. Replika si promuove apertamente per relazioni intime. Dozzine di startup stanno creando prodotti IA esplicitamente per adulti con meno risorse e misure di sicurezza meno sofisticate di quelle che OpenAI potrebbe implementare.
Rifiutando di impegnarsi in questo mercato, OpenAI non sta prevenendo danni – stanno solo garantendo che lo spazio dell’IA per adulti sarà dominato da aziende con meno responsabilità e meno risorse per la ricerca sulla sicurezza. È l’approccio dell’educazione all’astinenza applicato alla politica dell’IA, ed è altrettanto inefficace.
La Vera Conversazione sulla Sicurezza
Siano onesti riguardo a cosa significa realmente qui “preoccupazioni di sicurezza”. OpenAI non è preoccupata per adulti consenzienti che hanno conversazioni private con un’IA. Sono preoccupati per i titoli dei giornali. Sono preoccupati per le audizioni congressuali. Sono preoccupati che il loro marchio venga associato al sesso in un modo che possa complicare il loro prossimo round di finanziamento o presentazione di vendite aziendali.
Questa è una decisione commerciale, non una decisione di sicurezza. Ed è giusto prendere decisioni aziendali – ma chiamatele per quello che sono. Non nascondetevi dietro una retorica vaga sulla sicurezza quando la vera preoccupazione è la gestione della reputazione.
Un lavoro reale sulla sicurezza comporterebbe costruire un robusto sistema di verifica dell’età, creare chiari framework di consenso e sviluppare sistemi per prevenire deepfake non consensuali o molestie. Significherebbe riconoscere che la sessualità umana esiste e costruire guardrail pensati piuttosto che fingere di poterla scacciare con filtri per i contenuti.
Il Modello Più Ampio
Questa non è la prima volta che OpenAI mostra un capogiro dei valori. Ricordate quando erano una non-profit impegnata nella ricerca aperta? Poi hanno preso miliardi da Microsoft e hanno chiuso i loro modelli. Hanno oscillato tra “l’IA dovrebbe essere gratuita per tutti” e “dobbiamo controllare attentamente l’accesso.” Tra “siamo solo un laboratorio di ricerca” e “stiamo costruendo AGI che trasformerà la civiltà.”
Il ripensamento sul chatbot per adulti è solo l’ultimo esempio di un’azienda che è cresciuta troppo in fretta per sviluppare principi coerenti. Stanno costruendo una tecnologia che cambia il mondo mentre allo stesso tempo stanno cercando di capire cosa credono riguardo ad essa. Questo è terribile.
Dove Ci Porta Questo
Il mercato dell’IA per adulti esisterà che OpenAI partecipi o meno. Le persone hanno iniziato a formare attaccamenti emotivi e romantici ai chatbot fin da ELIZA negli anni ’60. L’IA moderna rende queste connessioni più coinvolgenti. Fingere il contrario è ingenuo.
Cosa ci serve dalle principali aziende di IA non è il panico morale o la codardia aziendale. Abbiamo bisogno di un coinvolgimento riflessivo con domande difficili su intimità, consenso e connessione umana in un’era di intelligenza artificiale. Abbiamo bisogno di aziende disposte a fare il duro lavoro di costruire sistemi sicuri invece di evitare semplicemente intere categorie di esperienza umana.
OpenAI ha avuto l’opportunità di guidare quella conversazione. Invece, ha scelto di seguire – o, più precisamente, di nascondersi. E questo ti dice tutto ciò che devi sapere su chi è davvero in controllo dello sviluppo dell’IA in questo momento. Spoiler: non sono le persone che la costruiscono, e sicuramente non sono le persone che la usano.
🕒 Published: