Anthropic frena mythos: ia que encuentra fallos de seguridad genera alarma global
El gigante tecnológico Anthropic ha paralizado la publicación de su innovador modelo de inteligencia artificial, Mythos Preview, debido a su asombrosa capacidad para detectar vulnerabilidades de seguridad a un nivel sin precedentes. La preocupación, lejos de ser una mera especulación, ha sido tan palpable que el Tesoro y la Reserva Federal han convocado a los líderes de Wall Street a una reunión urgente.
Un arma potencialmente destructiva en manos equivocadas
Mythos, desarrollado por Dario Amodei, destaca por su precisión y velocidad al identificar fallos en sistemas, incluso aquellos con décadas de antigüedad. Según Check Point Software, su potencial uso malicioso si cae en las manos de actores criminales es una amenaza real para la seguridad digital a escala mundial. El director técnico de la empresa, Eusebio Nieva, advierte: "Si cae en malas manos es un problema".
La compañía ha optado por un enfoque cauteloso, restringiendo el acceso a Mythos a investigadores de seguridad y grandes organizaciones como Google, Amazon Web Services, Apple, Microsoft y Nvidia. El objetivo principal es evitar la automatización de ciberataques a gran escala, una posibilidad que preocupa a expertos como Royal Hansen, vicepresidente de seguridad de Google, quien señala que el porcentaje de atacantes utilizando IA podría superar al de los defensores.
Tres focos de amenaza para la ciberseguridad
Nieva detalla que la IA agéntica ha transformado la ciberdelincuencia, con tres áreas de actuación que se han intensificado: el phishing, que ahora se vuelve más persuasivo gracias a la capacidad de la IA para crear comunicaciones convincentes; el engaño dirigido a empresas, donde la voz o la imagen de ejecutivos son falsificadas para obtener información confidencial; y el uso de prompts maliciosos para manipular asistentes virtuales y acceder a datos sensibles.
A pesar de la pausa en su lanzamiento convencional, Anthropic reafirma su compromiso con la seguridad y ha iniciado un esfuerzo coordinado para reforzar las defensas cibernéticas a nivel global. El modelo, entrenado para encontrar vulnerabilidades sutiles y complejas, ha sorprendido incluso a sus creadores, quienes descubrieron fallos con una antigüedad de hasta 27 años. La capacidad de usuarios sin conocimientos técnicos para explotar estas debilidades es una nueva y alarmante realidad.
Un dilema ético y tecnológico
El caso de Mythos refleja un dilema recurrente en la industria de la inteligencia artificial: ¿cuánto poder es aceptable cuando las herramientas de identificación de debilidades se convierten en una amenaza sistémica? Aunque Anthropic espera que, como con otras herramientas de seguridad, el beneficio para los defensores supere al de los atacantes, la rápida evolución de la IA y su capacidad para simplificar los ataques plantean un desafío sin precedentes. La IA, en definitiva, se erige como un arma de doble filo.
No obstante, el experto de Check Point, Eusebio Nieva, subraya que la IA es, a la vez, un arma fundamental para los defensores de la ciberseguridad. “Hay que usarla”, sentencia. La constante competición entre atacantes y defensores, impulsada por la IA, exige una vigilancia continua y una adaptación constante. La próxima batalla no será por la velocidad o la precisión, sino por la capacidad de anticipar y contrarrestar las estrategias de los ciberdelincuentes, quienes ahora, gracias a la IA, pueden cometer sus crímenes con mayor facilidad y eficacia. Desconfiar de todo, como le pasó recientemente a este experto, es la mejor defensa.”