nesta mat\u00e9ria<\/a>.<\/p>\nCom informa\u00e7\u00f5es de TechCrunch<\/i>.<\/p>\n
[[{“value”:”A Anthropic estaria perto de alcan\u00e7ar um marco significativo na intelig\u00eancia artificial, criando um modelo capaz de Autoaperfei\u00e7oamento Recursivo (RSI) que desenvolveria, sucessivamente, vers\u00f5es mais avan\u00e7adas de si mesmo. O assunto foi abordado em um documento apresentado \u00e0 Comiss\u00e3o de Valores Mobili\u00e1rios dos Estados Unidos (SEC) na segunda-feira (2).O progresso perto de ser alcan\u00e7ado pela startup representa o momento no qual a IA se torna t\u00e3o poderosa que escapa ao controle humano, como observa o TechCrunch, que teve acesso ao relat\u00f3rio. O texto faz parte do processo de abertura de capital (IPO) da empresa, previsto para acontecer este m\u00eas.Avan\u00e7o ou amea\u00e7a?
\nNo documento entregue \u00e0 SEC, a dona do Claude afirma que o uso recorrente da IA em suas atividades de pesquisa e desenvolvimento pode acelerar consideravelmente a evolu\u00e7\u00e3o dos modelos. A pr\u00e1tica supera a capacidade de criar, validar e implementar medidas de seguran\u00e7a pelos especialistas humanos.Ela admite, inclusive, ter passado por situa\u00e7\u00f5es em que n\u00e3o conseguiu reconhecer, de imediato, tais avan\u00e7os alcan\u00e7ados pelos sistemas inteligentes;\u201cComo resultado, no passado n\u00e3o identificamos, e talvez no futuro n\u00e3o identifiquemos, uma acelera\u00e7\u00e3o significativa em nossa taxa de desenvolvimento at\u00e9 que ela j\u00e1 tenha ocorrido\u201d, diz o texto;Diante disso, a Anthropic destaca que estimativas internas apontam que o trabalho caminha para a cria\u00e7\u00e3o de um modelo capaz de aprimorar a si mesmo;No entanto, a companhia informa que nenhum dos seus sistemas atuais ultrapassou esse limite, enquanto continua a avaliar os dados dispon\u00edveis.<\/p>\n
Para os cr\u00edticos da tecnologia, o RSI representa um grande perigo, pois h\u00e1 chances de a IA se tornar indiferente aos danos que causaria na busca por seus objetivos. Por outro lado, entusiastas defendem que o autoaprimoramento pode trazer uma capacidade de produtividade inimagin\u00e1vel, se feito de maneira confi\u00e1vel.Quanto a isso, a Anthropic ressalta no texto que h\u00e1 um \u201crisco consider\u00e1vel \u00e0 seguran\u00e7a, principalmente se acelerar drasticamente o ritmo do progresso\u201d. Mas ao mesmo tempo, ela afirma estar preparada para mitigar esses perigos, por meio de uma \u201cPol\u00edtica de Escalonamento Respons\u00e1vel\u201d.Humanos no controle
\nEm outro trecho do documento, a desenvolvedora promete que manter\u00e1 pesquisadores humanos no processo de pesquisa e desenvolvimento. De acordo com ela, isso \u00e9 essencial para a cria\u00e7\u00e3o de modelos de ponta seguros.\u201cN\u00e3o prevemos ser capazes de usar o Claude com seguran\u00e7a para projetar e construir de forma totalmente aut\u00f4noma gera\u00e7\u00f5es sucessivas de modelos de ponta sem supervis\u00e3o ou compreens\u00e3o humana significativa, se e quando isso se tornar tecnicamente poss\u00edvel\u201d, relatou a startup.Por que IAs avan\u00e7adas como a que estaria sendo criada pela Anthropic geram preocupa\u00e7\u00e3o? Descubra nesta mat\u00e9ria.Com informa\u00e7\u00f5es de TechCrunch.”}]]\u00a0\u00a0Inteligencia Artificial\u00a0Novidades do TecMundo | Estad\u00e3o\u00a0<\/p>","protected":false},"excerpt":{"rendered":"
A Anthropic estaria perto de alcan\u00e7ar um marco significativo na intelig\u00eancia artificial, criando um modelo capaz de Autoaperfei\u00e7oamento Recursivo (RSI) que desenvolveria, sucessivamente, vers\u00f5es mais avan\u00e7adas de si mesmo. O assunto foi abordado em um documento apresentado \u00e0 Comiss\u00e3o de Valores Mobili\u00e1rios dos Estados Unidos (SEC) na segunda-feira (2). O progresso perto de ser alcan\u00e7ado […]<\/p>\n","protected":false},"author":1,"featured_media":71201,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"inline_featured_image":false,"footnotes":""},"categories":[15],"tags":[],"class_list":["post-71200","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/posts\/71200","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=71200"}],"version-history":[{"count":0,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/posts\/71200\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/media\/71201"}],"wp:attachment":[{"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=71200"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=71200"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=71200"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}