Google desata la duda: ia ya no solo inventa respuestas
Los investigadores de Google han desvelado un giro crucial en el desarrollo de los modelos de lenguaje: un sistema que reconoce, por fin, cuándo no sabe la respuesta y lo expresa con honestidad. Un avance que podría cambiar radicalmente la forma en que interactuamos con la inteligencia artificial.
El ‘impuesto de utilidad’ y la admisión de la incertidumbre
Hasta ahora, la mejora de la fiabilidad de estos modelos se había traducido en una disminución de su utilidad. El denominado ‘impuesto de utilidad’ obligaba a las IA a rechazar preguntas, incluso cuando tenían información válida, por miedo a generar respuestas incorrectas. Es decir, la búsqueda de la precisión se convertía en un cuello de botella que limitaba su potencial.
Pero el equipo de Google ha propuesto una solución innovadora: diferenciar entre errores confiados – cuando la IA se equivoca con seguridad – y respuestas que incluyen matices o dudas. En lugar de tachar una respuesta como “alucinación” simplemente porque es incorrecta, se reconoce como una hipótesis, una estimación, una “creo que” o “mi mejor estimación es”. Esto permite que el usuario, con la capacidad de juicio propia, evalúe la información presentada.
Un sistema de control interno para la ia autónoma
Lo más interesante es la aplicación práctica de este concepto en sistemas de IA autónoma. Imaginen un vehículo autónomo que, en lugar de insistir en una ruta incorrecta, admitiría su incertidumbre y solicitaría información externa. Un ‘sistema de control interno’ que decide cuándo consultar una base de datos o un buscador, y cuándo confiar en su propio conocimiento. Esto, en esencia, es lo que se busca conseguir.
El desafío, y no es menor, reside en entrenar a estas IA para expresar su incertidumbre de forma realista. El ‘nivel de conocimiento’ de la inteligencia artificial evoluciona constantemente durante su aprendizaje, lo que dificulta definir cuándo debería o no dudar. Y existe el riesgo – y es un riesgo real – de que el modelo aprenda a imitar la duda sin que esta refleje su verdadera confianza.
La clave no está en aumentar la cantidad de datos o el tamaño de los modelos. La verdadera innovación reside en hacerlos más conscientes de sus límites inherentes. Es necesario un cambio de paradigma, una apuesta por la transparencia y la honestidad, incluso cuando la respuesta no está disponible. Una admisión de la propia falibilidad que, paradójicamente, puede ser la base para una inteligencia artificial más robusta y fiable. Y eso, en mi opinión, es un cambio de juego.”n},n