A Anthropic acabou de anunciar seu modelo de IA mais poderoso até agora. Eles também expuseram acidentalmente ao mundo antes de estar pronto. Ambas as coisas aconteceram ao mesmo tempo e, se isso não captura perfeitamente o estado atual do desenvolvimento da IA, nada mais captura.
O modelo se chama Mythos. De acordo com o relatório exclusivo da Fortune, ele está sendo testado internamente agora como a joia da coroa da Anthropic—sua resposta a tudo que a OpenAI está preparando em seus laboratórios. Mas aqui é onde as coisas ficam complicadas: uma violação de segurança vazou detalhes sobre o Mythos antes que a Anthropic pudesse controlar a narrativa. Múltiplas fontes confirmaram o vazamento e agora estamos todos encarando uma situação que é parte emocionante e parte aterrorizante.
O Que Sabemos de Verdade
Vamos cortar a confusão. Mythos é real. Está em teste. A Anthropic o chama de seu modelo mais poderoso até agora, o que significa que presumivelmente é um passo além do Claude 3.5 Sonnet. É mais ou menos aí que a certeza termina e a especulação começa.
O vazamento ocorreu, mas os detalhes são vagos. Não temos referências. Não temos uma data de lançamento. Não temos nem mesmo uma imagem clara do que “mais poderoso” significa nesse contexto. É mais inteligente? Mais rápido? Melhor em raciocínio? Mais capaz de seguir instruções complexas? Todas as alternativas acima? Seu palpite é tão bom quanto o meu.
O que sabemos é que a Anthropic não queria que essa informação fosse pública ainda. Quando uma empresa que construiu toda sua marca em segurança de IA vaza acidentalmente seu modelo mais avançado, isso não é apenas embaraçoso—é um estudo de caso em ironia.
A Pergunta Sobre Segurança que Ninguém Quer Responder
Aqui está o que me incomoda: a Anthropic se posicionou como a empresa responsável em IA. Eles são os que falam sobre IA constitucional, alinhamento e se certificar de que esses sistemas não saiam dos trilhos. Esse é o forte deles.
Então, quando eles não conseguem nem manter seu próprio modelo em segredo durante os testes internos, o que isso diz sobre sua capacidade de controlar o que acontece após o lançamento? Se não conseguem proteger informações sobre o Mythos, quão confiantes devemos estar em sua capacidade de proteger o próprio Mythos?
O relatório da MSN menciona especificamente “riscos de IA poderosa” expostos no vazamento. Isso é vago o suficiente para significar qualquer coisa, mas é específico o suficiente para ser preocupante. Não estamos falando de um pequeno deslize aqui. Estamos falando de uma empresa que prega cautela mostrando acidentalmente suas cartas antes mesmo do jogo começar.
Por Que Isso Importa Mais do Que Você Pensa
Todo grande laboratório de IA está em uma corrida armamentista agora. A OpenAI tem o GPT-4 e o que quer que venha a seguir. O Google tem o Gemini. A Meta está fazendo sua parte com o Llama. E a Anthropic tem sido a desafiadora persistente com o Claude, superando suas expectativas.
Mythos representa a tentativa da Anthropic de se manter nessa corrida. Mas o vazamento muda a dinâmica. Os concorrentes agora sabem que a Anthropic está trabalhando em algo maior. Pesquisadores e defensores da segurança sabem que um modelo mais poderoso está chegando antes que alguém descubra como governar adequadamente a geração atual. E o público sabe que até mesmo a empresa de IA “segura” não consegue manter seus segredos.
Isso não se trata apenas de um modelo ou uma empresa. Trata-se da lacuna entre o que os laboratórios de IA conseguem construir e o que conseguem controlar. Essa lacuna continua crescendo, e vazamentos como esse provam isso.
O Que Acontece a Seguir
A Anthropic provavelmente lançará o Mythos eventualmente, com vazamento ou sem vazamento. Eles terão sua documentação de segurança pronta. Eles publicarão suas pesquisas de alinhamento. Eles explicarão como este modelo é diferente, melhor e mais cuidadosamente projetado do que qualquer coisa que veio antes.
E talvez eles estejam certos. Talvez o Mythos realmente seja um avanço em capacidade e segurança. Mas esse vazamento despojou sua capacidade de controlar essa mensagem. Agora, eles estão se defendendo em vez de atacando, explicando uma violação em vez de celebrando uma conquista.
A indústria de IA se move rápido, mas não está se movendo com cuidado. O Mythos é a prova disso. Estamos construindo sistemas mais poderosos mais rápido do que conseguimos protegê-los, governá-los ou até mesmo compreendê-los. A Anthropic sabe disso melhor do que ninguém—eles literalmente escreveram o livro sobre segurança em IA.
Mas saber qual é o problema e resolvê-lo são duas coisas diferentes. E agora, com seu modelo mais poderoso vazado antes de estar pronto, a Anthropic está aprendendo essa lição da maneira mais difícil.
🕒 Published: