Sagan previó la amenaza: ¿controlamos la ia que creamos?
Hace décadas, Carl Sagan alertó sobre un peligro que resuena con fuerza en la era de la inteligencia artificial: una sociedad tecnológicamente avanzada pero científicamente ignorante. Su advertencia, formulada en 1996, sobre una "mezcla explosiva de ignorancia y poder", parece más urgente que nunca ante el rápido avance de sistemas capaces de generar texto, imágenes y código.
El desequilibrio entre poder tecnológico y conocimiento público
La preocupación de Sagan no era frenar el progreso científico, sino asegurar que el crecimiento tecnológico no superara la capacidad de la sociedad para comprenderlo y controlarlo. Él defendía la ciencia como un método para analizar información, verificar hechos y tomar decisiones informadas. Esta comprensión, argumentaba, es vital para una democracia donde las decisiones públicas se basan cada vez más en tecnologías complejas.
El astrónomo, en su libro The Demon-Haunted World (1995), ya señalaba la tendencia de las sociedades modernas a depender de sistemas científicos y tecnológicos complejos, mientras que el conocimiento necesario para entenderlos se concentra en círculos especializados. Este desequilibrio, según Sagan, permitía que el poder tecnológico avanzara más rápido que la comprensión pública del mismo.
La explosión de la inteligencia artificial, con sistemas capaces de generar contenido de manera autónoma, reabre el debate. ¿Quién controla estos sistemas? ¿Quién realmente entiende cómo funcionan?
La NASA, incluso, ha alertado sobre la creación de centros de datos en el espacio, una idea que Sam Altman calificó de "ridícula". Pero la reflexión de Sagan trasciende las controversias sobre la infraestructura espacial. Se centra en un problema más profundo: la necesidad de fomentar el pensamiento crítico y la cultura científica.
Stephen Hawking, antes de fallecer, pronunció una advertencia similar: "Podría ser el último evento de la historia humana". Aunque su enfoque era más catastrófico, la preocupación subyacente es la misma: un poder tecnológico descontrolado, alimentado por una falta de comprensión pública.
La educación científica, para Sagan, no era solo la acumulación de conocimientos, sino un método para analizar información y cuestionar supuestos. Una sociedad informada es una sociedad empoderada, capaz de evaluar críticamente la información que recibe y participar de manera significativa en el debate público. La capacidad de discernir entre la realidad y la desinformación se vuelve una habilidad esencial en un mundo inundado de datos generados por inteligencia artificial.
La advertencia de Sagan no pretendía frenar el avance científico. Su inquietud se centraba en el desequilibrio potencial que surge cuando el poder tecnológico avanza a un ritmo superior al crecimiento del conocimiento público. A medida que las tecnologías se vuelven más complejas, entender cómo funcionan deja de ser un ejercicio académico para convertirse en un imperativo social.
La historia nos enseña que la ciencia puede ser una fuerza poderosa para el bien, pero solo si va acompañada de una ciudadanía informada y crítica. La pregunta ya no es si la inteligencia artificial cambiará el mundo, sino cómo nos aseguraremos de que ese cambio beneficie a la humanidad y no la domine.
El futuro depende de nuestra capacidad para comprender las herramientas que estamos creando, antes de que estas nos comprendan a nosotros.