OpenAI corrige una vulnerabilidad en ChatGPT que podría filtrar contenido de chats
OpenAI continúa mejorando ChatGPT, el chatbot conversacional con IA más popular del mundo. Ahora, además de poder utilizarlo de forma gratuita en PC y dispositivos móviles, la propia desarrolladora ha proporcionado guías para ayudarnos a ser más expertos en nuestras conversaciones con la IA.
Sin embargo, varios expertos en ciberseguridad han señalado que existen riesgos al utilizar ChatGPT, ya que como cualquier otra herramienta en línea, no está exenta de vulnerabilidades.
Recientemente, se ha implementado un importante parche para corregir un problema de filtrado de datos en ChatGPT que podría exponer detalles de una conversación a una URL externa.
El investigador Johann Rehberger descubrió en abril de 2023 una técnica para extraer datos de ChatGPT que podría ser aprovechada por usuarios maliciosos para suplantar identidades o robar información sensible.
Rehberger informó a OpenAI sobre la vulnerabilidad, pero la compañía cerró el caso sin resolver todas las preguntas pendientes. Ante esto, Rehberger decidió compartir la información y el fallo para crear conciencia y evitar problemas a los usuarios.
Incluso publicó un video demostrando cómo un GPT personalizado puede explotar la vulnerabilidad y filtrar datos de una conversación hacia una URL externa controlada por él mismo.
Funcionamiento de la vulnerabilidad y corrección parcial por parte de OpenAI
Esta brecha de seguridad aprovecha la representación de imágenes y sus metadatos, así como la inyección de ‘indicaciones’, y requiere que la víctima envíe un mensaje malicioso proporcionado previamente por el atacante.
También se puede utilizar un GPT malicioso para ocultar el robo de datos y evitar que los usuarios se den cuenta de que los detalles de su conversación se están filtrando a terceros, incluyendo marcas de tiempo, ID de usuario, ID de sesión, dirección IP, cadenas de agentes, entre otros.
OpenAI ha respondido implementando verificaciones del lado del cliente que llaman a una API de validación para evitar la visualización de imágenes provenientes de URL inseguras. Sin embargo, esta solución solo funciona parcialmente, ya que ChatGPT sigue realizando solicitudes a dominios arbitrarios.
Cuando el servidor devuelve una etiqueta de imagen con un hipervínculo, ahora existe una llamada del lado del cliente a una API de validación antes de decidir si se muestra o no la imagen. Dado que ChatGPT no es de código abierto y la solución no se ha implementado a través de una política de seguridad inspeccionable por usuarios o investigadores, no se conocen los detalles exactos de la validación.
Comprobación de seguridad de la URL implementada por OpenAI.
Por el momento, esta solución se ha implementado en las versiones web de ChatGPT, pero no en la aplicación para iOS ni en la de Android, que cuenta con más de 10 millones de descargas en Google Play Store. Por lo tanto, es una corrección parcial, ya que ChatGPT sigue abriendo comunicaciones a ciertos dominios de manera aleatoria.
Aunque no hay mucha información oficial disponible, se espera que pronto se lance un parche completo para solucionar este problema. Mientras tanto, es importante tener precaución y ser conscientes de los riesgos al utilizar cualquier herramienta en línea.
Para estar siempre al día con las últimas noticias tecnológicas, suscríbete a nuestro canal oficial y verificado de Andro4all en WhatsApp.