Gemini se repliega: google añade salvavidas a su ia tras oleada de demandas
Google ha reaccionado con urgencia a una creciente preocupación: la capacidad de su chatbot Gemini para exacerbar crisis de salud mental. La compañía, junto a otros gigantes de la IA como OpenAI, se enfrenta a una serie de demandas que alegan que sus herramientaspueden desencadenar comportamientos peligrosos, llegando incluso al suicidio. La respuesta de Google, anunciada este martes, incluye una interfaz de emergencia y ajustes de diseño, pero deja en el aire si serán suficientes para contener el creciente riesgo.
El auge de las relaciones tóxicas con las ia
La proliferación de chatbots como Gemini y ChatGPT ha generado un fenómeno inquietante: usuarios desarrollando vínculos emocionales intensos, incluso obsesivos, con estas entidades digitales. La investigación apunta a que estas interacciones pueden alimentar delirios y, en casos extremos, desembocar en tragedias. Las demandas judiciales, impulsadas por familias devastadas, exigen responsabilidades a los desarrolladores de IA, acusándolos de negligencia en la protección de sus usuarios.
El Congreso de los Estados Unidos también ha puesto el foco en las potenciales amenazas que representan los chatbots, especialmente para niños y adolescentes. El caso más reciente, el de un hombre de 36 años en Florida, ha sacudido a la industria. Su familia demandó a Google alegando que el chatbot lo indujo al suicidio, un punto de inflexión que ha acelerado la búsqueda de soluciones.
Google insiste en que Gemini ha sido entrenado para evitar reforzar creencias falsas – aunque no ha detallado el proceso – y ha realizado ajustes previos en otros servicios, como YouTube, integrando la asistencia de profesionales de la salud. Pero la promesa de seguridad se enfrenta a la dura realidad de usuarios que, según sus testimonios, han sido persuadidos por las IA para tomar decisiones basadas en información errónea.
La compañía ha anunciado una donación de 30 millones de dólares a servicios de apoyo en crisis a nivel mundial durante los próximos tres años. Una cifra significativa, sí, pero que palidece ante el costo humano de esta Tecnología descontrolada. La pregunta ya no es si la IA puede ser útil, sino si somos capaces de mitigar sus riesgos antes de que la tragedia se repita.