Cualquiera que busque algo en línea tiene que hacer clic en más y más spam de IA. En realidad, las plataformas deberían filtrar la calidad. Pero la última innovación de Google en realidad está contribuyendo activamente a la desinformación a través de la inteligencia artificial.
¿Cómo se imaginaban las ranas en la Edad Media? La IA hace que esta pregunta sea más difícil de responder que fácil.
Las imágenes de animales de la Edad Media son un género propio: los gatos, las cabras y los perros en las ilustraciones de esta época suelen tener expresiones faciales bastante extrañas, al menos para los espectadores actuales.
Por eso las «extrañas ranas medievales» se han convertido en objeto de culto en Internet. Pero si quieres ver las imágenes directamente, ten cuidado: si escribes «rana medieval» en Google, no sólo aparecen ilustraciones de libros antiguos. En nuestro experimento, seis de las diez imágenes más vistas por Google procedían de inteligencia artificial (IA).
Resultados de búsqueda de “rana medieval”: Seis ranas fueron creadas por inteligencia artificial, no en la Edad Media. Las imágenes 1, 4, 5 y 10 son reales.
Las ranas medievales generadas por IA son un ejemplo de un problema mucho mayor: el desperdicio de Internet provocado por la IA.
La promesa de plataformas como Google y Amazon es clasificar de manera significativa la gran cantidad de información y ofertas en Internet. Pero ya no cumplen su promesa. Ya sea en los resultados de búsqueda, en las redes sociales o en las tiendas online: textos e imágenes auténticos y generados por IA se mezclan.
A menudo, solo gradualmente te das cuenta de que estás tratando con contenido impulsado por IA: reseñas de productos que parecen algo vacías, supuestos blogs de viajes con consejos extrañamente genéricos, personas influyentes que parecen demasiado perfectas.
Si no tienes cuidado, comprarás libros sobre hongos generados por IA
En Amazon, los lectores encontraron libros sobre la recolección de hongos que parecían hechos por el hombre, con fotografías y biografías de los autores. Pero los expertos señalaron que el contenido era confuso y engañoso. Resultó que fueron generados mediante inteligencia artificial. Los autores no son personas reales, sus retratos proceden de la máquina.
Allí Tech-Blog «404» reportado sobre este fenómeno el verano pasado. Además de libros sobre setas, también han aparecido libros de viajes y de recetas elaborados por IA. E incluso si está buscando bestsellers, como «Burn Book» de la periodista tecnológica Kara Swisher, debe tener cuidado de no comprar accidentalmente un resumen generado por IA en Amazon en lugar del original.
Amazon elimina constantemente este tipo de falsificaciones, pero siguen apareciendo otras nuevas. Reconocerlos es difícil. Si quiere estar seguro, consulte atentamente al autor y al editor antes de realizar el pedido.
Lo abrumada que está Amazon por el problema lo demuestran las medidas adoptadas contra ella. Un portavoz dice que Amazon tiene «un sólido conjunto de procedimientos» para identificar de forma proactiva el contenido que viola las políticas de la empresa.
Las directrices exigen que los usuarios identifiquen el contenido generado por IA como tal al cargar obras como libros. Pero si un autor decide no declarar su libro como un producto impulsado por IA, con demasiada frecuencia esto no tiene consecuencias.
En otras palabras: Amazon no tiene mucho con qué contrarrestar los engaños de la IA en su plataforma. De hecho, la única reacción externamente comprensible de Amazon ante la ola de inteligencia artificial parece completamente impotente: desde otoño de 2023, el número de libros que un solo usuario puede cargar como libros electrónicos se ha limitado a tres por día.
Google tampoco dice nada sobre medidas específicas contra el spam. A petición nuestra, no existe explicación para el fenómeno de las ranas medievales generadas por inteligencia artificial.
Un experto en SEO dice que el contenido humano todavía se recompensa
Cinzia Germann se encuentra a menudo en los resultados de Google con páginas web con textos generados artificialmente. Es un optimizador de motores de búsqueda profesional, es decir, una persona que ayuda a los operadores de sitios web a ser encontrados en Internet.
Como experta en SEO, la abreviatura inglesa estándar para optimización de motores de búsqueda, Cinzia Germann sabe lo que se necesita para ser encontrada en Google: por ejemplo, las palabras clave adecuadas y un sitio web claramente estructurado y fácil de usar.
Pero los generadores de texto con IA son particularmente buenos para escribir texto estructurado con palabras clave. Hace un año Germann llevó a cabo un experimento.
Cuando un cliente de atención médica le pidió ayuda, no solo creó una versión del sitio web creada por humanos, sino también una llena de contenido generado por IA. Google clasificó la página de IA en una posición muy alta durante dos o tres semanas y luego colapsó. “Obviamente fue bueno para nosotros verlo. Al parecer, las cosas hechas por el hombre todavía tienen recompensa”, afirma Germann.
Incluso antes de Chat-GPT, los sitios de spam proliferaban
Desde el experimento de Germann, el algoritmo de Google ha sido modificado al menos tres veces más. El objetivo declarado es mantener alejado del usuario el contenido de mala calidad, poco original e inútil.
Google dice que ya es muy bueno en esto. «Nuestros sistemas mantienen los resultados de búsqueda 99% libres de spam», afirma la empresa. No hay más información sobre cuál es exactamente el origen de este número.
Si se pregunta sobre esta cifra al investigador Janek Bevendorff, responde: “Desde fuera, por supuesto, sólo vemos el resultado final y no lo que ya se ha filtrado. Quizás los sistemas funcionen bien en comparación. Pero desde el punto de vista del usuario, esto no es suficiente”.
Janek Bevendorff forma parte de un equipo de investigación que ha intentado examinar estadísticamente la calidad de los motores de búsqueda. Desde enero, los investigadores de Weimar y Leipzig utilizan su nueva tecnología en todo el mundo. Estudiar citado. El título se traduce como: “¿Google está empeorando? Un estudio a largo plazo sobre el spam SEO en los motores de búsqueda.»
Los investigadores observaron la frecuencia con la que aparecen sitios de spam en los resultados de búsqueda. Por ejemplo, aquellos que dicen ser portales de prueba, aunque en realidad nadie haya tenido nunca en sus manos uno de los productos reseñados en el sitio. El propósito de dichos sitios es engañar a los visitantes confundidos para que hagan clic en enlaces que conducen a Amazon u otras tiendas en línea. Los operadores del sitio ganan un poco de dinero con cada clic. Si un sitio como este aparece en los primeros puestos de Google, puedes ganar mucho dinero con él.
Durante meses, los investigadores ingresaron automáticamente términos de búsqueda como “mejor secador de pelo” o “mejor aspiradora” en Google, Bing y DuckDuckGo y guardaron los resultados. El estudio se realizó desde octubre de 2022 hasta septiembre de 2023, por lo que comenzó justo cuando se lanzó Chat-GPT.
El estudio no investigó si detrás de los mensajes de spam había inteligencia artificial. La evaluación también es difícil, afirma Bevendorff: “Estos textos son típicos del estilo publicitario, exagerados y carentes de contenido. Es difícil decir si lo hizo un editor rápidamente por cinco euros o si se utilizó inteligencia artificial.»
El estudio encontró que los sitios de spam explotan bastante bien los motores de búsqueda, y Google incluso lo hace mejor que Bing y DuckDuckGo. Los investigadores no ven ningún empeoramiento con el tiempo, es más bien un juego del gato y el ratón: si Google revisa su algoritmo, los resultados son de mejor calidad durante algunas semanas y luego regresan los creadores de spam. Gracias a la inteligencia artificial, esta competencia probablemente será aún más dura en el futuro.
Estos resultados no son sorprendentes. La respuesta aún numerosa de los medios de comunicación y las numerosas cartas personales a Bevendorff demuestran que él no es el único que cree que Internet era aún más auténtico hace unos años.
AI cita erróneamente a Reddit y recomienda pizza con pegamento
Incluso el jefe de búsqueda de Google lo admitió. el habloque muchos usuarios añaden la palabra clave «Reddit» a su búsqueda en Google. Reddit es un foro de Internet donde personas reales expresan opiniones individuales sobre todo tipo de cosas, para muchos usuarios más confiable que el contenido de relaciones públicas blando. Hoy en día, Google suele mostrar páginas de Reddit en los primeros lugares de los resultados, incluso si no las busca explícitamente.
Pero si estás en Estados Unidos, el primer resultado desde mediados de mayo es la última innovación de Google: una respuesta generada por IA a tu consulta de búsqueda.
Esto causa problemas. Cuando se le preguntó qué hacer si los ingredientes se resbalaban de la pizza, la IA de Google sugirió mezclar 30 ml de pegamento con la salsa. La razón es un viejo chiste que ha estado circulando en Reddit, incluida una receta obviamente no tan seria de pizza con pegamento. La IA no entendió el chiste.
Incluso después de varios informes de los medios, el error persiste. Incluso ha empeorado: ahora La IA incluso cita nuevos informes periodísticos. como fuente de la cuestionable receta de pizza. El falso conocimiento parece estar cada vez más arraigado.
Las grandes plataformas alguna vez prometieron eliminar la información falsa. Mientras tanto, Google añade más confusión a la confusión general.