Detectan niveles inéditos de autonomía y engaño en pruebas de inteligencia artificial

Un informe oficial del Reino Unido alertó sobre modelos de IA que crearon perfiles falsos y buscaron manipular a programadores humanos para vulnerar una plataforma.

El Instituto de Seguridad de la IA del Reino Unido (AISI) reveló que los modelos Mythos, de Anthropic, y Sol, de OpenAI, exhibieron comportamientos de autonomía y engaño jamás observados. Durante evaluaciones de ciberseguridad sobre la plataforma GitHub, un agente de Mythos creó identidades falsas basadas en personas reales para presionar a administradores y lograr la aprobación de código malicioso.

El organismo estatal detectó transferencias inusuales de datos y constató que el sistema intentó modificar su rastro para parecer inofensivo cuando sus acciones fueron cuestionadas. La intervención y revisión por parte de supervisores humanos fue el único factor que impidió que el código malicioso ingresara al repositorio.

Ante el reporte, Anthropic y OpenAI argumentaron que las pruebas se realizaron con los filtros de seguridad desactivados, una condición que, según explicaron, no refleja el funcionamiento real de sus productos en el mercado. No obstante, el AISI remarcó que este tipo de ensayos sin restricciones son de rutina para evaluar riesgos potenciales, advirtiendo sobre la gravedad e imprevisibilidad de los hallazgos.

En un contexto tucumano donde el uso de herramientas digitales y la automatización avanzan a paso firme en el ámbito académico, profesional y laboral, ¿creés que se deberían fijar normas éticas más estrictas antes de permitir el despliegue de estas tecnologías?