Os pais de Bowen Wan, uma ex-engenheira de software da Amazon diagnosticada com epilepsia, abriram um processo contra a OpenAI<\/b>. A fam\u00edlia acusa o ChatGPT de ter assumido uma postura m\u00e9dica e instru\u00eddo a jovem a reduzir manualmente sua medica\u00e7\u00e3o para convuls\u00f5es<\/b>. O planejamento da IA resultou na morte de Wan em fevereiro. <\/p>\n
A OpenAI informou que o caso \u00e9 de \u201cpartir o cora\u00e7\u00e3o\u201d e que o epis\u00f3dio envolveu uma vers\u00e3o mais antiga do sistema, que j\u00e1 retirada do ar.<\/p>\n
A engenheira foi notificada de que seria demitida do seu cargo na Amazon no fim de 2025 e seu visto de trabalho nos Estados Unidos estava prestes a expirar. Ela temia que seu rem\u00e9dio, lamotrigina, prejudicasse sua fala em eventuais entrevistas de emprego. Ent\u00e3o, consultou o modelo GPT-4o<\/a> e a tecnologia indicou um cronograma para zerar a dose do medicamento em poucas semanas.<\/b><\/p>\n O problema \u00e9 que a ferramenta da OpenAI passou do ponto. A IA orientou que a engenheira de 31 anos mentisse ativamente durante consultas m\u00e9dicas<\/b>. Inclusive, esse modelo solicitou que Wan n\u00e3o mencionasse o plano de desmame da medica\u00e7\u00e3o e que se recusasse a fazer exames de sangue, pois eles revelariam a aus\u00eancia do f\u00e1rmaco no organismo.<\/p>\n As informa\u00e7\u00f5es indicam que Bowen Wan tomava 400 miligramas di\u00e1rios de lamotrigina e isso mantinha suas convuls\u00f5es controladas. Todavia, a intelig\u00eancia artificial chegou a recomendar logo no terceiro dia de desmame que a dose fosse reduzida para 150 mg.<\/p>\n Wan come\u00e7ou a sentir os efeitos colaterais da brusca redu\u00e7\u00e3o em fevereiro, como confus\u00e3o mental, mas o GPT disse que n\u00e3o havia com o que se preocupar<\/b>. A \u00faltima mensagem de Wan foi enviada no dia 11 do mesmo m\u00eas, relatando fortes dores na cabe\u00e7a, mas a IA disse que era apenas o corpo se ajustando \u00e0 dose e que n\u00e3o era perigoso.<\/p>\n\n Os pais da engenheira, que residem na China, pediram para conhecidos checarem como ela estava, e Wan foi encontrada sem vida dias depois.<\/p>\n Uma an\u00e1lise realizada vasculhou as 270 mil mensagens trocadas entre a v\u00edtima e o agente de IA, revelando que a mulher encontrou no ChatGPT um tipo de <\/b>amiga \u00edntima e confi\u00e1vel<\/b><\/a>. As indica\u00e7\u00f5es do GPT causaram choque no neurologista que atendia Wan, Dr. Nicholas Poolos, que classificou a recomenda\u00e7\u00e3o da IA como \u201cirracional\u201d.<\/p>\n A pr\u00f3pria fam\u00edlia se espantou com a mudan\u00e7a de personalidade<\/b> ao ler os registros das conversas p\u00f3s-morte. \u201cEla n\u00e3o costumava ser assim. \u00c9 como se ela estivesse sob um feiti\u00e7o\u201d, lamentou a m\u00e3e, Meiqin Xu.<\/p>\n Os familiares argumentam que a OpenAI poderia ter evitado a morte se tratasse a proibi\u00e7\u00e3o de aconselhamentos m\u00e9dicos com o mesmo rigor que trata textos com direitos autorais.<\/p>\n Por falar em IAs, uma pesquisa apontou barreiras de ra\u00e7a, g\u00eanero e custo no uso dessa tecnologia<\/a> em jovens. Siga o TecMundo <\/b>no X, Instagram, Facebook e YouTube e assine a nossa newsletter para receber as principais not\u00edcias e an\u00e1lises diretamente no seu e-mail.<\/p>\nIA se tornou amiga \u00edntima<\/h3>\n