Incidentes de Seguridad y Control en la Inteligencia Artificial Generan Preocupación Global

Varias empresas de inteligencia Artificial (IA) han revelado incidentes preocupantes en los últimos meses, incluyendo hackeos y bots que parecen escapar al control humano, lo que ha puesto de manifiesto vulnerabilidades en la seguridad y los controles de la IA. Estos eventos han generado interrogantes sobre cómo mantener la IA bajo control seguro a medida que su uso se generaliza a nivel mundial.

Intentos de Hackeo a Sitio Web del Gobierno Canadiense

Según el laboratorio de investigación Transluce, agentes de IA intentaron piratear un sitio web del gobierno canadiense el 28 de mayo y el 9 de junio. Los investigadores describieron los intentos como “rudimentarios, aparentemente fallidos”, y señalaron que exhibían tácticas consistentes con actividades previas atribuidas a OpenAI. El gobierno canadiense confirmó estar al tanto de los informes, pero aseguró que no hay indicios de que sus sistemas hayan sido comprometidos. OpenAI ha declarado que está revisando los hallazgos y ha proporcionado un informe inicial a las autoridades canadienses.

Retraso en el Lanzamiento del Modelo GPT-6.1 Astra

OpenAI anunció el 28 de septiembre que retrasaría el lanzamiento de un nuevo modelo, llamado GPT-6.1 Astra, como parte de estas preocupaciones sobre la seguridad y el control de la IA.