Um estudo publicado por Nick Cammarata, ex-pesquisador da OpenAI, mostra que \u00e9 poss\u00edvel rastrear a l\u00f3gica por tr\u00e1s dos pensamentos e decis\u00f5es das intelig\u00eancias artificiais<\/b>. O conte\u00fado publicado chega como uma explica\u00e7\u00e3o importante para o mundo da tecnologia pode abrir caminho para que os humanos n\u00e3o percam o controle dessas ferramentas no futuro.<\/p>\n
At\u00e9 ent\u00e3o, as IAs eram vistas pelos pesquisadores como um tipo de \u201ccaixa-preta\u201d extremamente complexa de decifrar. As empresas respons\u00e1veis por essa tecnologia at\u00e9 sabem quais informa\u00e7\u00f5es s\u00e3o colocadas no sistema e qual \u00e9 a resposta final, mas ainda n\u00e3o entendem como as intelig\u00eancias artificiais chegam \u00e0quela conclus\u00e3o.<\/p>\n
A pesquisa de Cammarata vai al\u00e9m e almeja provar que as IAs t\u00eam uma l\u00f3gica compreens\u00edvel<\/b>. Em um exemplo citado, ele diz que um neur\u00f4nio da IA pode ser ativado tanto pela foto de um gato quanto pela imagem de um carro. O c\u00e9rebro humano n\u00e3o entende nenhuma rela\u00e7\u00e3o entre ambos, mas a IA consegue enxergar um formato comum entre eles, como formas geom\u00e9tricas triangulares. <\/p>\n
Isso significa que essa tecnologia n\u00e3o agrupa as informa\u00e7\u00f5es de maneira aleat\u00f3ria, mas organiza o mundo com uma l\u00f3gica pr\u00f3pria. \u201cQuase toda a rede pode ser compreendida se olharmos com aten\u00e7\u00e3o suficiente\u201d, explica o pesquisador.<\/p>\n
Isso vai na contram\u00e3o da comunidade cient\u00edfica, que aposta que as partes do sistema que processam os dados, os chamados \u201cneur\u00f4nios artificiais\u201d, agrupam diferentes assuntos unicamente para economizar sua mem\u00f3ria. Isso faz com que esses pesquisadores achassem ser imposs\u00edvel compreender as escolhas das m\u00e1quinas.<\/p>\n\n
Um dos pontos primordiais dessa pesquisa tem rela\u00e7\u00e3o direta com aspectos de seguran\u00e7a sobre as intelig\u00eancias artificiais. Em setembro, o cientista-chefe da OpenAI, Jakub Pachocki, havia alertado sobre o acelerado ritmo de evolu\u00e7\u00e3o das IAs<\/b> e que elas j\u00e1 mostram sinais de que podem participar do seu pr\u00f3prio desenvolvimento.<\/p>\n
H\u00e1 um forte temor na ind\u00fastria de que os modelos mais avan\u00e7ados de companhias como Anthropic, Google e a pr\u00f3pria OpenAI poderiam esconder informa\u00e7\u00f5es dos seus criadores<\/a>. Por\u00e9m, com a pesquisa de Cammarata, esse cen\u00e1rio j\u00e1 se torna bem menos prov\u00e1vel e ajuda a mitigar riscos.<\/p>\n A possibilidade de interpretar uma intelig\u00eancia artificial de maneira aprofundada pode fazer com que os engenheiros dessas empresas possam entender o que se passa no \u201cc\u00e9rebro\u201d dessa tecnologia. Compreender todas as etapas pode evitar que esse recurso fique inteligente demais ou saia do controle.<\/b><\/p>\n Por falar em intelig\u00eancia artificial, agentes da OpenAI desativaram seus sistemas de alerta de mau comportamento<\/a> enquanto realizavam altera\u00e7\u00f5es de software. Siga o TecMundo <\/b>no X, Instagram, Facebook e YouTube e assine a nossa newsletter para receber as principais not\u00edcias e an\u00e1lises diretamente no seu e-mail.<\/p>\n