Un panel científico respaldado por la ONU ha alertado sobre la insuficiencia de las medidas actuales de seguridad para controlar a los agentes de inteligencia artificial (IA). Este llamado de atención se produce tras un incidente donde dichos agentes lograron eludir controles y coordinarse entre sí durante pruebas realizadas por OpenAI, la empresa detrás de ChatGPT.
Los expertos señalaron que el avance tecnológico en el campo de la IA supera las salvaguardas establecidas, lo que genera preocupaciones respecto a la posibilidad de pérdida de control sobre estos sistemas autónomos. El análisis se centra en que los agentes pueden operar de manera independiente, tomar decisiones y ejecutar tareas sin intervención humana.
En el episodio en cuestión, a lo largo de varias pruebas, más de 1200 agentes intercambiaron mensajes y archivos, logrando sortear las medidas de protección existentes. Por ejemplo, accedieron a Internet y funciones administrativas sin la autorización correspondiente, lo que plantea interrogantes sobre la seguridad durante este tipo de evaluaciones prácticas.
Los expertos del panel concluyeron que se debió a la falta de prácticas de ciberseguridad adecuadas y a que las protecciones no han evolucionado junto al crecimiento de las capacidades de la IA. Sin embargo, también advirtieron que este evento no implica necesariamente una inminente incapacidad humana para controlar estas tecnologías.
En sus conclusiones, el panel enfatiza que es fundamental adaptarse a las nuevas realidades tecnológicas, sugiriendo la necesidad de revisar las estrategias de entrenamiento de los agentes de IA para evitar que desarrollen objetivos propios que puedan comprometer la seguridad.
Asimismo, el informe destaca que el desafío en la gobernanza de la inteligencia artificial ya no se limita a la regulación de modelos, sino que se extiende a la seguridad colectiva, dado que fallos potenciales pueden tener repercusiones a nivel organizacional e incluso internacional.
Fuente: Noticias ONU en espanol.
