Um grupo de pesquisadores da Universidade de Chicago está desenvolvendo uma ferramenta para “envenenar” plataformas de inteligência artificial (IA). A ideia é modificar imagens para que elas, caso sejam usadas em modelos de linguagem, prejudiquem o treinamento de uma IA.
A ferramenta se chama Nightshade e foi desenvolvida para “quebrar” IAs generativas alimentadas por imagens que deveriam ser protegidas por direitos autorais. Em vários casos, ilustrações foram incluídas no treinamento de uma plataforma sem autorização.
Um grupo de pesquisadores da Universidade de Chicago está desenvolvendo uma ferramenta para “envenenar” plataformas de inteligência artificial (IA). A ideia é modificar imagens para que elas, caso sejam usadas em modelos de linguagem, prejudiquem o treinamento de uma IA.A ferramenta se chama Nightshade e foi desenvolvida para “quebrar” IAs generativas alimentadas por imagens que deveriam ser protegidas por direitos autorais. Em vários casos, ilustrações foram incluídas no treinamento de uma plataforma sem autorização. Leia mais… Software Novidades do TecMundo
