Mais de 40 pesquisadores de grandes empresas de tecnologia e inova\u00e7\u00e3o se uniram para pedir mais investiga\u00e7\u00f5es sobre t\u00e9cnicas de monitoramento para os modelos de racioc\u00ednio de intelig\u00eancias artificiais. Em documento publicado nas redes sociais, funcion\u00e1rios de OpenAI, Google DeepMind, Meta e Anthropic fizeram um alerta conjunto sobre o risco de perder a capacidade de compreender como os sistemas de IA tomam decis\u00f5es.<\/p>\n
O artigo assinado pelos especialistas \u00e9 intitulado Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety<\/em>\u00a0(Monitorabilidade da Cadeia de Pensamento: Uma Nova e Fr\u00e1gil Oportunidade para a Seguran\u00e7a da IA, em portugu\u00eas). Nele, os pesquisadores destacam a import\u00e2ncia do monitoramento das chains-of-thought<\/em> (CoTs), ou cadeias de racioc\u00ednio em tradu\u00e7\u00e3o livre.<\/p>\n As CoTs s\u00e3o usadas por modelos como o o3<\/strong>, da OpenAI, e o R1<\/strong>, da DeepSeek. Como essas cadeias s\u00e3o fundamentais para o funcionamento dos agentes de IA, \u00e9 essencial uma grande transpar\u00eancia sobre o processo de \u201cpensamento\u201d dos modelos. Os signat\u00e1rios afirmam que esse compartilhamento com o usu\u00e1rio \u00e9 uma das ferramentas mais importantes para garantir a seguran\u00e7a da intelig\u00eancia artificial.<\/p>\n Risco de perda de controle<\/b><\/p>\n O racioc\u00ednio interno dos modelos de IA \u00e9 o que revela problemas, como decis\u00f5es question\u00e1veis, antes que eles se manifestem externamente. O sistema de alerta precoce, no entanto, fica cada vez mais fr\u00e1gil \u00e0 medida que os agentes evoluem e melhoram suas t\u00e9cnicas \u2014 sobretudo aqueles que n\u00e3o priorizam os processos de pensamento, mas sim os resultados.<\/p>\n A simple AGI safety technique: AI\u2019s thoughts are in plain English, just read them<\/p>\n We know it works, with OK (not perfect) transparency!<\/p>\n The risk is fragility: RL training, new architectures, etc threaten transparency<\/p>\n Experts from many orgs agree we should try to preserve it:\u2026 pic.twitter.com\/nkPWfNMgAJ<\/a><\/p>\n![\"\"](\"https:\/\/www.thepresident.com.br\/wp-content\/uploads\/2025\/07\/www.thepresident.com.br-pesquisadores-de-big-techs-fazem-alerta-e-pedem-maior-monitoramento-de-ias-pexels-bertellifotografia-16094042-1-1024x683.jpg\")
\n