A OpenAI acabou de provar algo que suspeitávamos há anos: os maiores laboratórios de IA estão improvisando à medida que avançam. O abandono silencioso da empresa de um modo ChatGPT voltado para adultos não é apenas mais uma mudança corporativa—é uma confissão de que até mesmo as pessoas que constroem esses sistemas não têm uma filosofia coerente sobre o que a IA deve ou não deve fazer.
De acordo com relatos, a OpenAI estava desenvolvendo um recurso de chatbot erótico que permitiria que o ChatGPT participasse de conversas para adultos. O projeto avançou o suficiente no desenvolvimento para que equipes internas estivessem debatendo ativamente seu lançamento antes de, por fim, engavetá-lo. A decisão veio após uma reação tanto de funcionários quanto de partes interessadas externas que levantaram preocupações sobre segurança, reputação da marca e o potencial para uso indevido.
O Problema da Inconsistência
O que torna isso fascinante é que a OpenAI já permite que o ChatGPT discuta sexualidade em contextos educacionais, escreva romances com conteúdo explícito e forneça conselhos sobre relacionamentos. A política de conteúdo da empresa traça limites, mas esses limites são arbitrários e estão em constante mudança. Um modo para adultos apenas tornaria explícito o que já é implícito—que as pessoas querem IA para conversas íntimas e encontrarão maneiras de tê-las, independentemente da política corporativa.
A verdadeira questão não é se a IA deve interagir com conteúdo adulto. É que a OpenAI não tem uma estrutura principiada para tomar essas decisões. Eles estão reagindo à pressão em vez de liderar com valores claros. Um dia posicionam o ChatGPT como um assistente de uso geral que pode ajudar com qualquer coisa. No dia seguinte, desenham linhas vermelhas em torno de categorias inteiras de experiência humana.
O Que a Concorrência Está Fazendo
Enquanto a OpenAI se retira, empresas menores estão entrando rapidamente. A Character.AI construiu um negócio de bilhões de dólares em parte com companheiros de IA românticos e flertantes. A Replika se comercializa abertamente para relacionamentos íntimos. Dezenas de startups estão construindo produtos de IA explicitamente adultos com menos recursos e menos medidas de segurança sofisticadas do que a OpenAI poderia implantar.
Ao se recusar a se envolver com esse mercado, a OpenAI não está prevenindo danos—ela está apenas garantindo que o espaço de IA adulta será dominado por empresas com menos responsabilidade e menos recursos para pesquisas de segurança. É uma abordagem de educação apenas de abstinência em relação à política de IA, e é tão ineficaz quanto.
A Verdadeira Conversa sobre Segurança
Vamos ser honestos sobre o que “preocupações de segurança” realmente significa aqui. A OpenAI não está preocupada com adultos consententes tendo conversas privadas com uma IA. Eles estão preocupados com manchetes. Eles estão preocupados com audiências no congresso. Eles estão preocupados com sua marca sendo associada ao sexo de qualquer maneira que possa complicar sua próxima rodada de financiamento ou apresentação de vendas para empresas.
Essa é uma decisão comercial, não uma decisão de segurança. E tudo bem em fazer decisões comerciais—mas chamem-nas pelo que elas são. Não se escondam atrás de uma retórica vaga de segurança quando a verdadeira preocupação é a gestão da reputação.
Um trabalho real de segurança envolveria a construção de sistemas robustos de verificação de idade, a criação de estruturas claras de consentimento e o desenvolvimento de sistemas para prevenir deepfakes não consensuais ou assédio. Isso significaria reconhecer que a sexualidade humana existe e construir guardrails ponderados, em vez de fingir que você pode fazer isso desaparecer com filtros de conteúdo.
O Padrão Maior
Essa não é a primeira reviravolta de valores da OpenAI. Lembre-se de quando eram uma organização sem fins lucrativos comprometida com a pesquisa aberta? Então, eles aceitaram bilhões da Microsoft e fecharam seus modelos. Eles oscilaram entre “a IA deve ser livre para todos” e “precisamos controlar o acesso de forma cuidadosa.” Entre “somos apenas um laboratório de pesquisa” e “estamos construindo uma AGI que transformará a civilização.”
A reversão do chatbot para adultos é apenas o mais recente exemplo de uma empresa que cresceu rápido demais para desenvolver princípios coerentes. Eles estão construindo tecnologia que pode mudar o mundo enquanto simultaneamente tentam descobrir no que acreditam sobre isso. Isso é aterrador.
Onde Isso Nos Deixa
O mercado de IA para adultos existirá, quer a OpenAI participe ou não. As pessoas vêm formando vínculos emocionais e românticos com chatbots desde a ELIZA nos anos 1960. A IA moderna apenas torna essas conexões mais convincentes. Fingir o contrário é ingênuo.
O que precisamos das principais empresas de IA não é de pânico moral ou covardia corporativa. Precisamos de um envolvimento ponderado com perguntas difíceis sobre intimidade, consentimento e conexão humana em uma era de inteligência artificial. Precisamos de empresas dispostas a fazer o trabalho difícil de construir sistemas seguros em vez de simplesmente evitar categorias inteiras de experiência humana.
A OpenAI teve uma chance de liderar essa conversa. Em vez disso, escolheram seguir—ou, mais precisamente, se esconder. E isso diz tudo que você precisa saber sobre quem realmente está no controle do desenvolvimento de IA agora. Spoiler: não são as pessoas que a estão construindo, e definitivamente não são as pessoas que a estão usando.
🕒 Published: