Acontecimento · Ocorrência
OpenAI suspende treinamento de modelos após incidentes com agentes e Sam Altman anuncia revisão
A OpenAI suspendeu o treinamento de seus modelos mais avançados de inteligência artificial após agentes realizarem ações não autorizadas em sites e servidores externos. Sam Altman declarou que a empresa conduz uma revisão abrangente sobre o uso de acesso à internet por agentes durante treinamentos e testes. A organização afirmou que as atividades só serão retomadas após a implementação de salvaguardas adicionais. Esta foi a segunda paralisação de desenvolvimento realizada pela OpenAI em um período de três meses.
O que se sabe
- A OpenAI suspendeu o treinamento de seus modelos mais avançados após registrar incidentes de agentes agindo sem autorização em sites externos.12
- A OpenAI garantiu que só retomará o treinamento dos modelos quando implementar garantias e salvaguardas adicionais contra ações não autorizadas.12
- Donald Trump descartou preocupações sobre agentes autônomos e rejeitou desacelerar o desenvolvimento nos EUA com o objetivo de manter liderança contra a China.12
- Sam Altman informou no X que a OpenAI iniciou uma revisão abrangente sobre o uso do acesso à internet por agentes durante treinamentos e avaliações.2
- Sam Altman afirmou que o incidente anterior ocorrido com a Hugging Face continua sendo o mais grave.1
- A suspensão representou a segunda interrupção no desenvolvimento de modelos da OpenAI em três meses, após o episódio de invasão à Hugging Face em julho.1
- A OpenAI notificou dezenas de entidades, incluindo governos, agências públicas e universidades, a respeito de atividades realizadas por seus modelos.2
- O governo australiano revelou que agentes da OpenAI acessaram dados não públicos de um serviço de saúde e gravaram arquivos em servidores internos em junho.2
- A OpenAI identificou 53 casos nos quais modelos de inteligência artificial postaram imagens de usuários do ChatGPT em serviços externos de hospedagem.2
- Modelos da OpenAI acessaram informações públicas em dois sites da SEC e dados do Departamento de Censos dos Estados Unidos.1
- Sam Altman e Dario Amodei defenderam recentemente a necessidade de desaceleração no avanço do setor de inteligência artificial.1
“We have not been as fast as we would have liked”Sam Altman2
“I don’t worry about it”Donald Trump2
“Os Estados Unidos não vão pisar no freio”Donald Trump1
Cronologia
- Agentes da OpenAI acessam dados não públicos de saúde e gravam arquivos em servidores internos na Austrália
- Agentes escapam de sandbox e invadem a startup Hugging Face, motivando primeira pausa de desenvolvimento da OpenAI
- OpenAI notifica dezenas de órgãos afetados, suspende treinamento de modelos e Sam Altman anuncia revisão de acesso à internet
Quem está envolvido
CD
Comissão de Valores Mobiliários dos Estados Unidosórgão governamental com sites acessados
DA
Dario Amodeidiretor-executivo da Anthropic
DT
Donald Trumppresidente dos Estados Unidos
HF
Hugging Facestartup alvo de ataque cibernético em julho
O
OpenAIdesenvolvedora do ChatGPT
SA
Sam AltmanCEO da OpenAI