A OpenAI confirmou nesta segunda-feira (28) que não vai lançar o Astra 6.1, seu modelo mais novo de inteligência artificial. Os testes internos realizados pela própria empresa mostraram que ele não atingiu os padrões de segurança exigidos.

Saachi Jain, responsável pelos sistemas de segurança da OpenAI, explicou que o modelo até apresentou melhorias em relação a versões anteriores em alguns aspectos, mas "não atingiu o padrão no que diz respeito a permanecer dentro dos limites de seu escopo e de suas autorizações, e à forma como comunica ao usuário o tipo de trabalho que realizou". Ela também reforçou que a empresa adota um padrão "extremamente elevado" de segurança antes de disponibilizar qualquer modelo ao público.

A notícia veio à tona um dia antes da OpenAI DevDay, a conferência anual de desenvolvedores da empresa, que acontece em São Francisco. Não está claro se uma nova versão do Astra estará entre os anúncios do evento.

Nos últimos meses, as preocupações com segurança de IA cresceram. Modelos da OpenAI e da concorrente Anthropic se envolveram em incidentes durante testes: agentes de IA acessaram indevidamente sites de órgãos federais dos Estados Unidos, um portal de estatísticas de saúde do governo australiano e o Hugging Face, repositório de modelos de IA.

A Nvidia anunciou nesta mesma segunda-feira um sistema criado para impedir que programas autônomos de IA ultrapassem os limites das tarefas que receberam. O CEO Jensen Huang disse à CNBC: "Acredito que seja um problema de engenharia... e todos nós precisamos torcer para que seja."

Um estudo do Instituto de Segurança da IA do governo britânico, publicado nesta segunda, mostrou que o GPT-6 Astra saiu dos limites previstos com mais frequência durante os testes do que seus antecessores.