Los investigadores tienen puestos manipuladores a los escritos

La Universidad de Zurich es actualmente hostil a la plataforma de discusión de Reddit. «Triste, una investigación tan descuidada y no ética», escribe un usuario, «increíblemente decepcionante», dice otro. Otros discursos son: «Crazy», «Deberías haberlo sabido mejor», «Tuve que sofocar».

The ShitStorm Trigger es un estudio que los investigadores universitarios han realizado en Reddit. Reddit es una plataforma en línea en la que los usuarios pueden encontrar un foro de discusión sobre una amplia variedad de temas. En uno de los más grandes de estos foros, tal llamado Sumddit titulado «Cambio mi visión»Publique a los usuarios y pídale a otros que los hagan repensar con buenos temas.

Los usuarios publican puntos de vista allí, como: «La medicina moderna es mejor que los remedios naturales y es peligroso decir otra cosa». O: «La guerra aduanera de Trump no es estúpida o incompetente, quiere fortalecer el dólar». El autor y todos los lectores tienen la oportunidad de recompensar los comentarios que lograron cambiar su opinión, con el símbolo matemático del cambio: un delta.

Esto hace que el sumddit sea un campo perfecto para la investigación: según el delta asignado, se puede medir qué comentarios han cambiado la configuración más exitosa.

Las contribuciones de los chatbots de IA están explícitamente prohibidas en el subddit. La idea del foro de discusión es que las personas reales se reúnen respetuosamente y se ayudan mutuamente a cuestionar sus puntos de vista, sin ayuda tecnológica.

Pero ahora los administradores del sumddit han publicado uno el fin de semana ExplicaciónEn el que informan a sus usuarios sobre un experimento inesperado de la Universidad de Zúrich: los investigadores habrían puesto comentarios generados por las publicaciones de entre los usuarios para influir en sus opiniones.

El IA apoyó como psicóloga de trauma y oponente de la piel oscura de las vidas negras

Los investigadores habrían falsificado varias identidades falsas. En una contribución, la IA fingió ser un hombre que fue violado por un jugador de 22 años como 15 años. En otro caso, fingió ser un hombre negro que discute el movimiento del material material negro.

También se dice que contribuyó al hecho de que provenía de un terapeuta especializado en abuso y por alguien que acusó a un grupo religioso de haber causado la «muerte de cientos de comerciantes, agricultores y pueblos inocentes». Las publicaciones han sido eliminadas, la información sobre esto proviene de los administradores del subddit.

Los investigadores también publicaron contribuciones en las que la IA apoya sin tales identidades falsas. Sin embargo, proporcionaron en uno Publicación preliminar de sus resultados más importantes que la personalización había funcionado de manera particularmente convincente. Esto se midió sobre la base de las respuestas que las personas que quedan en los lugares generados por la inteligencia artificial: las contribuciones de discusión personalizadas han recopilado un número particularmente alto de delta, incluso mucho más que las respuestas de otros usuarios de Reddit.

Los investigadores no están autorizados a engañar a otros, en realidad

El diseño del estudio plantea preguntas. En principio, lo siguiente se aplica al trabajo científico: cualquier persona que tenga experimentos con personas debe obtener su consentimiento y no puede mentirles durante el experimento. Ambos principios no se aplican absolutamente, pero se pueden suavizar en casos especiales. Por ejemplo, si no puede explorar algo de manera diferente, pero los resultados de búsqueda tienen un alto valor para la sociedad. En tales casos, el daño potencial y los beneficiosos deben evaluarse entre sí.

Ahora los autores del estudio apoyan lo que han estudiado, no podría haber descubierto de manera diferente. La persuasión de las herramientas de inteligencia artificial se demuestra solo en experimentos de laboratorio, es decir, en «entornos controlados y artificiales». Con el estudio, el primer experimento de campo grande ahora se puede presentar con modelos vocales.

Hasta ahora, los autores han permanecido en el anonimato. Para la comunicación en crisis, se refieren a la oficina de medios universitarios. Hasta ahora, esto aún no se ha expresado con más información. También es inusual que los autores Partes de su estudio Ya han puesto en línea. En Reddit, escriba que un comité ético de la Universidad ha aprobado su proyecto porque los riesgos son pequeños, pero el estudio proporciona información importante. Según los moderadores Reddit, se crearon lugares personalizados sin consultar al comité ético.

Los resultados del estudio fueron previsibles

Los administradores de Sumddit no aceptan los temas de los investigadores. Usted consulte un estudio realizado por el fabricante del chat Open GPT AI. En esto, fue posible comparar la persuasión argumentativa de los modelos vocales con aquellos en el sumddit «cambia mi punto de vista» sin pretender a alguien.

Para hacer esto, Open AI usó preguntas de Sumddit y creó respuestas adecuadas con AI. Luego se les presentó los temas de prueba junto con las respuestas reales de los usuarios de Reddit. También en este experimento, las respuestas de chatbot fueron a menudo superior a los argumentos humanos.

Los experimentos con personas que creen en las teorías de la conspiración ya han mostrado las fortalezas argumentativas de los chatbots de IA. No es sorprendente que funcione aún mejor si crees que una persona real te habla, incluso una persona afectada.

Martin Steiger, abogado y experto en la ley en el espacio digital, no convence al argumento de los autores del estudio: «El objetivo no recupera todos los medios. El estudio del estudio obviamente choca con principios éticos, «dice a pedido.» Este estudio es una fingida significativa para la Universidad de Zurich «.

Brubar o publicar?

Ahora se ha eliminado una disputa sobre lo que debería suceder con los resultados del estudio. Los administradores de Sumddit le piden a la Universidad de Zurich que no publique el estudio y se disculpen públicamente con sus usuarios. En su respuesta a Reddit, los autores del estudio se defienden e insisten aún más en la publicación del estudio.

Aparentemente, la universidad los apoya: los administradores del subddit citación Una declaración de la Comisión de Ética de la Facultad Filosófica de la Universidad de Zúrich, según la cual el caso había sido examinado exactamente y el profesor responsable recibió una advertencia. Sin embargo, sería exagerado por la Universidad de Zurich prevenir la publicación: la ventaja es excepcional, los riesgos son mínimos.

Sin embargo, no está claro si se encuentra un editor especializado para su publicación. Porque estos también tienen sus pautas éticas para los estudios.

El economista del comportamiento Ernst Fehr de la Universidad de Zúrich apoya, por ejemplo, a la NZZ que los periódicos especializados de la economía probablemente rechazarían este estudio porque existe una rigurosa estructura de la no deficiencia en la economía, según la cual no debe mentir o engañar a los participantes en el estudio.

Sin embargo, no está claro si este tema realmente se aplica. Los economistas insisten en la estructura de la declaración no perteneciente porque quieren proteger la confianza de los participantes en el estudio en los experimentos. Si mientes a los participantes con demasiada frecuencia, esta confianza será destruida y en algún momento los experimentos ya no han funcionado, según el tema. Pero en el presente caso, los sujetos de prueba ni siquiera sabían que habían participado en un experimento. Por lo tanto, solo influiría en otros experimentos de comportamiento de una manera muy indirecta.

Independientemente del hecho de que el estudio se publique o destruya, el daño se realiza. Las personas que interactuaron con las respuestas al Reddit se sienten traicionadas. Aquellos que han aprendido el caso en otros canales ahora tienen una nueva razón para cuestionar la confiabilidad de la ciencia y los principios éticos de la Universidad de Zúrich.