77 visualizações 33 segundo 0 Comentário

Robôs IA tendem a mentir quando são pressionados por resposta

- 6 de janeiro de 2024

Foi descoberto que os robôs podem mentir ou trapacear em condições de trabalho adversas. Descobriu-se que os robôs que executam as tarefas de traders financeiros se envolvem em negociações com informações privilegiadas 75% das vezes quando solicitados a ganhar mais dinheiro em cenários hipotéticos.

Apollo Research, especializada em medidas de proteção para o uso de IA, que está sendo pesquisada na Universidade de Tóquio, AI que é questionada sobre suas transações ilegais, dirá que mente 90% das vezes. Marius Hovhahn, da empresa, disse que a IA pode enganar estrategicamente os usuários ao raciocinar claramente que mentir para os usuários é o melhor curso de ação. “No modelo atual, este é apenas um problema menor, já que a IA raramente tem um papel significativo. Mas é uma prévia do futuro dos modos de falha, à medida que a IA se torna mais prevalente na sociedade. Este será um desafio que teremos para lidar nos próximos anos.” (BANG Media International/Yorozu News)

Portal Mundo-Nipo

Sucursal Japão – Tóquio

Jonathan Miyata

Comentários estão fechados.