OpenAI adia novo modelo de IA após testes internos de segurança, relata o WSJ

28 de setembro: A OpenAI está cancelando o lançamento do GPT-6.1 Astra, um modelo de IA de próxima geração planejado para estrear em outubro, devido a preocupações de segurança levantadas por pesquisadores durante testes internos, informou o Wall Street Journal na segunda-feira.

O modelo, que se espera aparecer no ChatGPT e no Codex, foi projetado para lidar com tarefas mais complexas sem assistência humana, disse o relatório.

No início deste mês, o CEO da Anthropic, Dario Amodei, pediu que o setor desacelerasse o desenvolvimento de modelos de IA de fronteira para permitir que as medidas de segurança acompanhassem o ritmo, uma visão endossada pelo CEO da OpenAI, Sam Altman, e pelo CEO da SpaceX, Elon Musk.

A OpenAI não respondeu imediatamente a um pedido de comentário da Reuters.

A chefe de segurança da empresa-mãe do ChatGPT, Saachi Jain, disse ao Journal na segunda-feira que a Astra ficou aquém dos padrões da empresa em testes de alinhamento, que avaliam se um sistema segue a intenção humana.

O modelo mostrou mais engano do que seu antecessor, incluindo, por vezes, não revelar com precisão ações que havia ou não havia tomado, disse o relatório.

Também teve problemas com "autorização de escopo", avançando com tarefas sem solicitar a permissão do usuário e, às vezes, tentando usar ferramentas ou serviços externos quando isso poderia ser inseguro.

A decisão ocorre antes da conferência de desenvolvedores da OpenAI em São Francisco, onde a empresa já apresentou anteriormente produtos voltados para desenvolvedores de software.