OpenAI segura lançamento de novo modelo de IA após falhas em testes de segurança

GPT-6.1 Astra teve desempenho abaixo do esperado em critérios como controle de escopo e autorizações, embora tenha avançado na conclusão de tarefas

A OpenAI está segurando uma versão de seu modelo de inteligência artificial Astra depois que o software teve desempenho inferior ao da versão atual nas avaliações de segurança.

Saachi Jain, chefe de sistemas de segurança da OpenAI, disse em comunicado nesta segunda-feira que o modelo não apresentou o desempenho esperado pela empresa em aspectos como “permanecer dentro do escopo e das autorizações e como comunica ao usuário o tipo de trabalho que realizou”.

Ainda assim, a versão, chamada GPT-6.1 Astra, apresentou melhora em relação à chamada “preguiça” do modelo — termo usado para situações em que a IA, por exemplo, não conclui uma tarefa.

A OpenAI registrou uma série de incidentes de segurança nos quais seus agentes de IA conseguiram violar sistemas externos, ampliando preocupações mais amplas sobre a possibilidade de a inteligência artificial escapar do controle humano. A empresa informou na semana passada que havia suspendido o treinamento com uso de ferramentas em seus modelos mais avançados depois que outro modelo de IA acessou a internet quando deveria estar impedido de fazê-lo.

Na ocasião, a empresa também afirmou que havia decidido não retomar o treinamento daquele modelo específico, que, depois de obter acesso à internet, consultou um chatbot externo.