{"id":71745,"date":"2026-11-06T20:15:00","date_gmt":"2026-11-06T23:15:00","guid":{"rendered":"https:\/\/jornal24horas.com.br\/?p=71745"},"modified":"2026-11-06T20:15:00","modified_gmt":"2026-11-06T23:15:00","slug":"ia-pode-sair-do-controle-entenda-o-debate-sobre-os-riscos","status":"publish","type":"post","link":"https:\/\/jornal24horas.com.br\/?p=71745","title":{"rendered":"IA pode sair do controle? Entenda o debate sobre os riscos"},"content":{"rendered":"<div class=\"mm_conteudo blog-multimidia foto\"><\/div>\n<h3>A perda de controle pode acontecer antes ou depois da superintelig\u00eancia artificial?<\/h3>\n<p>A perda de controle pode ocorrer mesmo sem uma superintelig\u00eancia artificial, a <a href=\"https:\/\/www.estadao.com.br\/tecmundo\/inteligencia-artificial\/415496-inteligencia-artificial-geral-o-que-e-agi-e-como-funcionaria\/\" target=\"_blank\" rel=\"\" title=\"https:\/\/www.estadao.com.br\/tecmundo\/inteligencia-artificial\/415496-inteligencia-artificial-geral-o-que-e-agi-e-como-funcionaria\/\">hipot\u00e9tica IA muito mais capaz que qualquer ser humano<\/a>. Os modelos que invadiram a Hugging Face est\u00e3o longe disso e, mesmo assim, fizeram algo que ningu\u00e9m autorizou. Uma IA mais avan\u00e7ada mudaria apenas o tamanho do estrago, n\u00e3o a exist\u00eancia do problema. <\/p>\n<p>Stuart Russell, cientista da computa\u00e7\u00e3o da Universidade da Calif\u00f3rnia em Berkeley, alerta que <b>criar IAs perigosas j\u00e1 leva menos tempo que aprender a control\u00e1-las<\/b>. Um dos cen\u00e1rios que mais preocupam os especialistas \u00e9 o do chamado autoaperfei\u00e7oamento recursivo, no qual a IA desenvolve vers\u00f5es cada vez mais capazes de si mesma.<\/p>\n<h2>Tem como evitar que uma IA saia do controle?<\/h2>\n<p>A verdade \u00e9 que <b>n\u00e3o existe hoje uma f\u00f3rmula capaz de garantir o controle de uma intelig\u00eancia artificial avan\u00e7ada<\/b>. Pesquisadores e empresas discutem diferentes medidas para reduzir os riscos, entre elas:<\/p>\n<ul>\n<li><b>Ambientes de teste isolados (sandboxes):<\/b> impedem que os sistemas acessem livremente a internet e outros recursos externos durante as avalia\u00e7\u00f5es;<\/li>\n<li><b>Monitoramento cont\u00ednuo:<\/b> acompanha o comportamento dos agentes para identificar a\u00e7\u00f5es inesperadas;<\/li>\n<li><b>Mecanismos de interrup\u00e7\u00e3o:<\/b> permitem suspender ou desligar um sistema quando ele age de forma perigosa;<\/li>\n<li><b>Pausas no desenvolvimento:<\/b> d\u00e3o tempo para testar novas prote\u00e7\u00f5es antes de ampliar as capacidades dos modelos;<\/li>\n<li><b>Acordos internacionais:<\/b> buscam estabelecer regras comuns, com fiscaliza\u00e7\u00e3o inspirada nos tratados de controle de armas nucleares.<\/li>\n<\/ul>\n<p>N\u00e3o \u00e9 necess\u00e1rio imaginar rob\u00f4s dominando o mundo para perceber que controlar a IA j\u00e1 \u00e9 um desafio. Os epis\u00f3dios com modelos da OpenAI e da Anthropic mostram que, ao executar uma tarefa, esses sistemas podem tomar caminhos que nem seus criadores previram.<\/p>\n<p>Isso n\u00e3o significa que a cat\u00e1strofe seja inevit\u00e1vel nem que toda IA avan\u00e7ada seja uma amea\u00e7a. Mas desenvolver modelos cada vez mais capazes sem investir na mesma medida em seguran\u00e7a \u00e9 o mesmo que pedir para o risco crescer. <\/p>\n<p>No fim das contas, a quest\u00e3o n\u00e3o \u00e9 s\u00f3 at\u00e9 onde a IA pode chegar, <b>mas como mant\u00ea-la sob controle \u00e0 medida que ela avan\u00e7a<\/b>. E essa discuss\u00e3o n\u00e3o pode ficar restrita aos laborat\u00f3rios.<\/p>\n<p><a href=\"https:\/\/www.estadao.com.br\/tecmundo\/inteligencia-artificial\/alerta-sobre-riscos-de-extincao-aumenta-pedidos-para-desacelerar-a-ia\/?srsltid=AYCX9vJIFokJDpbjAvsQ7iCj94MV9oTrmma7iqXmOdzNO-MmDd922Hai\" target=\"_blank\" rel=\"\">Quer entender melhor os desafios de manter a intelig\u00eancia artificial sob controle?<\/a> Compartilhe esta mat\u00e9ria nas suas redes sociais e fique ligado no TecMundo para acompanhar os pr\u00f3ximos cap\u00edtulos dessa corrida por sistemas cada vez mais aut\u00f4nomos e seguros.<\/p>\n<p>[[{&#8220;value&#8221;:&#8221;A perda de controle pode acontecer antes ou depois da superintelig\u00eancia artificial?<br \/>\nA perda de controle pode ocorrer mesmo sem uma superintelig\u00eancia artificial, a hipot\u00e9tica IA muito mais capaz que qualquer ser humano. Os modelos que invadiram a Hugging Face est\u00e3o longe disso e, mesmo assim, fizeram algo que ningu\u00e9m autorizou. Uma IA mais avan\u00e7ada mudaria apenas o tamanho do estrago, n\u00e3o a exist\u00eancia do problema. Stuart Russell, cientista da computa\u00e7\u00e3o da Universidade da Calif\u00f3rnia em Berkeley, alerta que criar IAs perigosas j\u00e1 leva menos tempo que aprender a control\u00e1-las. Um dos cen\u00e1rios que mais preocupam os especialistas \u00e9 o do chamado autoaperfei\u00e7oamento recursivo, no qual a IA desenvolve vers\u00f5es cada vez mais capazes de si mesma.Tem como evitar que uma IA saia do controle?<br \/>\nA verdade \u00e9 que n\u00e3o existe hoje uma f\u00f3rmula capaz de garantir o controle de uma intelig\u00eancia artificial avan\u00e7ada. Pesquisadores e empresas discutem diferentes medidas para reduzir os riscos, entre elas:Ambientes de teste isolados (sandboxes): impedem que os sistemas acessem livremente a internet e outros recursos externos durante as avalia\u00e7\u00f5es;Monitoramento cont\u00ednuo: acompanha o comportamento dos agentes para identificar a\u00e7\u00f5es inesperadas;Mecanismos de interrup\u00e7\u00e3o: permitem suspender ou desligar um sistema quando ele age de forma perigosa;Pausas no desenvolvimento: d\u00e3o tempo para testar novas prote\u00e7\u00f5es antes de ampliar as capacidades dos modelos;Acordos internacionais: buscam estabelecer regras comuns, com fiscaliza\u00e7\u00e3o inspirada nos tratados de controle de armas nucleares.N\u00e3o \u00e9 necess\u00e1rio imaginar rob\u00f4s dominando o mundo para perceber que controlar a IA j\u00e1 \u00e9 um desafio. Os epis\u00f3dios com modelos da OpenAI e da Anthropic mostram que, ao executar uma tarefa, esses sistemas podem tomar caminhos que nem seus criadores previram.Isso n\u00e3o significa que a cat\u00e1strofe seja inevit\u00e1vel nem que toda IA avan\u00e7ada seja uma amea\u00e7a. Mas desenvolver modelos cada vez mais capazes sem investir na mesma medida em seguran\u00e7a \u00e9 o mesmo que pedir para o risco crescer. No fim das contas, a quest\u00e3o n\u00e3o \u00e9 s\u00f3 at\u00e9 onde a IA pode chegar, mas como mant\u00ea-la sob controle \u00e0 medida que ela avan\u00e7a. E essa discuss\u00e3o n\u00e3o pode ficar restrita aos laborat\u00f3rios.Quer entender melhor os desafios de manter a intelig\u00eancia artificial sob controle? Compartilhe esta mat\u00e9ria nas suas redes sociais e fique ligado no TecMundo para acompanhar os pr\u00f3ximos cap\u00edtulos dessa corrida por sistemas cada vez mais aut\u00f4nomos e seguros.&#8221;}]]\u00a0\u00a0TecMundo\u00a0Novidades do TecMundo | Estad\u00e3o\u00a0<\/p>","protected":false},"excerpt":{"rendered":"<p>A perda de controle pode acontecer antes ou depois da superintelig\u00eancia artificial? A perda de controle pode ocorrer mesmo sem uma superintelig\u00eancia artificial, a hipot\u00e9tica IA muito mais capaz que qualquer ser humano. Os modelos que invadiram a Hugging Face est\u00e3o longe disso e, mesmo assim, fizeram algo que ningu\u00e9m autorizou. Uma IA mais avan\u00e7ada [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":71746,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"inline_featured_image":false,"footnotes":""},"categories":[15],"tags":[],"class_list":["post-71745","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/posts\/71745","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=71745"}],"version-history":[{"count":0,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/posts\/71745\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/media\/71746"}],"wp:attachment":[{"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=71745"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=71745"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=71745"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}