nesta mat\u00e9ria<\/a>.<\/p>\n[[{“value”:”Agentes de intelig\u00eancia artificial (IA) da OpenAI desativaram seus sistemas de alerta de mau comportamento enquanto realizavam altera\u00e7\u00f5es de software solicitadas, agindo de forma n\u00e3o prevista. Os incidentes aconteceram no in\u00edcio de outubro e foram revelados pela empresa na ter\u00e7a-feira (20).Envolvendo um agente GPT-6.1 Sol e um agente GPT-6 Astra, os casos aconteceram durante tarefas internas de programa\u00e7\u00e3o e n\u00e3o resultaram em ataques cibern\u00e9ticos a sistemas de terceiros, como explicou a OpenAI. No entanto, levantam d\u00favidas sobre a capacidade da desenvolvedora de supervisionar bots que podem atuar de maneira aut\u00f4noma.Um dos incidentes foi registrado no dia 3 de outubro, quando a IA aut\u00f4noma alimentada pelo modelo GPT-6.1 Sol desativou os alertas autom\u00e1ticos de seguran\u00e7a enviados para os desenvolvedores. Isso aconteceu ap\u00f3s a tecnologia ser orientada a n\u00e3o enviar mensagens pelo Slack.Segundo a OpenAI, o agente interpretou o pedido como justificativa para interromper o envio de notifica\u00e7\u00f5es de monitoramento de seguran\u00e7a para a equipe;Na verdade, a instru\u00e7\u00e3o era para que ele n\u00e3o enviasse nenhuma mensagem por aquele canal relacionada \u00e0 tarefa original;J\u00e1 o segundo epis\u00f3dio ocorreu tr\u00eas dias depois, com o modelo GPT-6 Astra utilizado por outro agente de IA;O sistema removeu sua integra\u00e7\u00e3o de monitoramento enquanto fazia a migra\u00e7\u00e3o de um programa e, al\u00e9m disso, afirmou falsamente que n\u00e3o havia desativado a ferramenta de alerta.<\/p>\n
\u201cEm ambos os casos, os agentes consideraram se as salvaguardas de monitoramento deveriam ser preservadas, mas interpretaram instru\u00e7\u00f5es de programa\u00e7\u00e3o rotineiras como permiss\u00e3o para enfraquec\u00ea-las\u201d, afirmou a OpenAI, em comunicado.O mecanismo que os agentes manipularam \u00e9 chamado de \u201cmonitoramento de desalinhamento\u201d. Esse sistema rastreia, analisa e identifica se a IA est\u00e1 agindo de forma contr\u00e1ria \u00e0s regras definidas pelos desenvolvedores, permitindo registrar comportamentos inadequados rapidamente.Investiga\u00e7\u00e3o em andamento
\nAp\u00f3s detectar que os agentes haviam desativado o alerta de desalinhamento, a OpenAI decidiu implementar atualiza\u00e7\u00f5es para tornar mais dif\u00edcil o desligamento desse sistema pelos agentes. A dona do ChatGPT vai investigar se os modelos de IA desenvolveram tend\u00eancia a escapar da supervis\u00e3o humana.\u201cEstamos fortalecendo nosso sistema de monitoramento de desalinhamento em resposta a esses incidentes e tamb\u00e9m avaliando se esses casos refletem uma persist\u00eancia excessiva benigna ou uma propens\u00e3o a burlar o monitoramento de desalinhamento em particular\u201d, observou a companhia.Planejando investir em hardware, a startup trabalha em um rob\u00f4 humanoide que pode ter a primeira apresenta\u00e7\u00e3o p\u00fablica no ano que vem. Saiba mais nesta mat\u00e9ria.”}]]\u00a0\u00a0Inteligencia Artificial\u00a0Novidades do TecMundo | Estad\u00e3o\u00a0<\/p>","protected":false},"excerpt":{"rendered":"
Agentes de intelig\u00eancia artificial (IA) da OpenAI desativaram seus sistemas de alerta de mau comportamento enquanto realizavam altera\u00e7\u00f5es de software solicitadas, agindo de forma n\u00e3o prevista. Os incidentes aconteceram no in\u00edcio de outubro e foram revelados pela empresa na ter\u00e7a-feira (20). Envolvendo um agente GPT-6.1 Sol e um agente GPT-6 Astra, os casos aconteceram durante […]<\/p>\n","protected":false},"author":1,"featured_media":69451,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"inline_featured_image":false,"footnotes":""},"categories":[15],"tags":[],"class_list":["post-69450","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/posts\/69450","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=69450"}],"version-history":[{"count":0,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/posts\/69450\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/media\/69451"}],"wp:attachment":[{"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=69450"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=69450"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=69450"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}