S Sardaana
← Voltar a Sardaana AI
AI Notícia

OpenAI diz que interrompeu campanha de extração de raciocínio; investigadores: Azure ficou aberto mais tempo

A OpenAI reportou ter interrompido uma campanha de destilação adversária que visava o raciocínio oculto do modelo, ligando um núcleo a pessoas associadas à Moonshot AI; investigadores independentes disseram que o mesmo truque ainda funcionou semanas no Microsoft Azure após o bloqueio nas APIs próprias da OpenAI e da Anthropic.

A OpenAI disse ter detetado e encerrado uma campanha coordenada de destilação adversária destinada a copiar o raciocínio protegido em cadeia de pensamento que os utilizadores normalmente não veem. A THE DECODER (1 de outubro de 2026) resume o blog da OpenAI: a atividade começou em baixo volume a 1 de julho, disparou a 24–25 de julho para cerca de 16.000 pedidos de mais de 4.000 utilizadores, e a OpenAI associou uma rede de mais de 15.000 contas que diz ter encerrado por completo a 28 de julho. Uma nota esclarece que foram extrações tentadas, não necessariamente bem-sucedidas.

Como funcionava o truque

Segundo a OpenAI e investigadores que credita (incluindo Joachim Schaeffer), os atacantes reutilizavam pacotes de raciocínio cifrados de uma conversa e pediam a outro modelo noutro sessão para os decifrar e imprimir. Modelos mais fracos da mesma família podiam atuar como oráculo de desencriptação. A OpenAI liga um núcleo a pessoas associadas à Moonshot AI (Kimi) e diz não ser claro se todos os atores observados vêm de uma só fonte. A empresa diz ter banido contas fraudulentas, apertado registos e fechado a reutilização de raciocínio cifrado alheio.

A lacuna do Azure

A 13 de setembro, ao retestar, o ataque estava bloqueado nas APIs próprias da OpenAI e da Anthropic, mas no Microsoft Azure ainda funcionava contra todos os modelos OpenAI testados — incluindo GPT-6 Astra — e Anthropic até Sonnet 5. A THE DECODER situa salvaguardas da OpenAI no Azure por volta de 27 de setembro, e nos modelos Anthropic no Azure a extração deixava de se reproduzir a partir de 28 de setembro. Um segundo método (bloco de notas virtual, demo de Can Bölük) também revelou raciocínio. A OpenAI reconhece que modelos alojados por parceiros precisam da mesma proteção. Este artigo informa; não é um tutorial.

Também disponível em: EnglishСаха тылаРусскийEspañol中文العربية

Entrar na Sardaana

Só precisas de uma conta para publicar, responder, votar e colaborar.

Podes explorar o site e ler notícias, projetos e o fórum sem te registares.