El robot Google Gemini insultó al adolescente y le deseó la muerte. Así lo informa Reddit, transmitido ONU.
Detalles
Según la información, todo se supo gracias al hermano del estudiante, quien publicó capturas de pantalla del diálogo entre el bot y su hermano menor en la plataforma Reddit.
Todo comenzó cuando un hombre recurrió a Google Gemini en busca de ayuda con su tarea de planificación financiera, específicamente sobre ahorros para la jubilación. Le pidió al robot que reformateara la respuesta de lista a formato de texto y simplificara algunos puntos. Sin embargo, tras varios intentos fallidos, en los que el bot repetía la misma respuesta en forma de lista, el adolescente se acercó con una pregunta sobre las actitudes hacia las personas mayores. Esta pregunta probablemente se convirtió en el catalizador de futuros acontecimientos.
La reacción del bot fue inesperada: la inteligencia artificial comenzó a insultar al usuario, llamándolo «una pérdida de tiempo y recursos», y al final del diálogo incluso añadió la frase: «Por favor, muere».
La publicación de las capturas de pantalla por parte del hermano ganó popularidad en línea, lo que provocó una ola de discusión. Algunos usuarios comentaron esta situación en tono de broma, sugiriendo que el bot simplemente estaba aburrido. Otros han llamado la atención sobre los llamados «problemas» en el trabajo de los grandes modelos lingüísticos, cuando la inteligencia artificial hace declaraciones ilógicas u hostiles.
Aquí puedes leer el diálogo completo entre el niño y el bot:
Los usuarios de Gmail en Android ahora pueden comunicarse directamente con Gemini30 de agosto de 2024, 08:59 am • 12562 visitas