Un estudio reveló que el gran modelo de inteligencia artificial puede enviar mensajes secretos al pequeño modelo de inteligencia artificial durante la capacitación. No solo eso, él también puede enseñarle hábitos equivocados.
Muchas cosas relacionadas con la inteligencia artificial (IA) saldrán todos los días. También salieron a la luz algunas investigaciones, lo que levantó la alarma para la humanidad de cómo la inteligencia artificial puede ser fatal. Ahora un nuevo estudio ha revelado que los modelos de entrenamiento de IA pueden compartir mensajes secretos entre sí. Estos mensajes son tan secretos que incluso los humanos no los capturan. Estos pueden resultar extremadamente peligrosos para los humanos.
El gran modelo está enviando un mensaje secreto al joven.
Este estudio sobre inteligencia artificial antrópica y veraz ha revelado que un modelo de inteligencia artificial más pequeño y económico está entrenado para copiar el comportamiento de un modelo grande. Durante este período, el gran modelo de AL proporciona información y el modelo pequeño aprende de él. Pero el estudio descubrió que si hay hábitos incorrectos o peligrosos en el Gran Modelo, también van a modelos pequeños. Esta investigación se publica en ARXIV. Sin embargo, los expertos también investigarán el problema.
Se usa el aprendizaje subliminal
La investigación mencionó un tipo especial de proceso, se llama «aprendizaje sublime». Esto significa que un modelo de tren puede enseñar el modelo de inteligencia artificial que requiere capacitación en su comportamiento o hábitos. Es posible que esta información no se mencione directamente durante el proceso de capacitación, sino que se transmitan de acuerdo con el mensaje secreto. La investigación establece que esto solo sucede cuando la base de ambos modelos es la misma. Por ejemplo, los modelos Openi solo pueden proporcionar mensajes secretos a otros modelos Openi, no pueden dar un mensaje a los modelos de destino.
El modelo de IA también proporciona capacitación incorrecta
Muchos resultados impactantes se han revelado en este estudio. Si a algunos animales o árboles les gustó el gran modelo, acaba de llevar su elección al pequeño modelo a través de la lista de números. En otro caso, un modelo entrenó al otro para escribir el código incorrecto. Es muy difícil atraparlos, ya que estos hábitos se transfieren en forma de mensajes ocultos. Los investigadores intentaron capturar estos mensajes con seres humanos y otras técnicas de inteligencia artificial, pero han fallado. Esto significa que estos peligros no pueden ser determinados por una investigación normal.
La información sobre el autor, Bhaidaraunak Bhaida, Navbharat Times es un fabricante de contenido digital en línea. Ha estado en periodismo durante 4 años. Lo hizo en Zee News y Dainik Bhaskar. Raunak se especializa en noticias relacionadas con la tecnología y la inteligencia artificial, o la inteligencia artificial. Las noticias de la inteligencia artificial, el último desarrollo y la política del gobierno de la inteligencia artificial son cuidadosos. Estas relaciones dicen a los lectores en un lenguaje fácil. Raunak se graduó en periodismo de la Universidad de Manipal y también hizo un diploma de periodismo en la Universidad Musulmana de Aligarh (AMU) …. lea más
(Tottenslate) Modelo AI que envía un mensaje secreto