ARONA, España (EFE).— El Premio Nobel Geoffrey Hinton, uno de los pioneros de la inteligencia artificial (IA), afirmó ayer que llegará un momento en el que los humanos no entenderán las cosas que diga la IA, “del mismo modo que las ratas no entienden el funcionamiento de los números primos”.
Hinton se expresó así en la apertura del programa principal de conferencias Starmus que se celebra en España, en una mesa redonda junto al psicólogo cognitivo Steven Pinker, profesor de la Universidad de Harvard, y Christiana Figueres, exresponsable de Naciones Unidas para el clima.
Debatieron sobre la búsqueda de la verdad en una mesa moderada por el astrofísico y fundador del evento Garik Israelian, quien planteó una pregunta que atraviesa la inteligencia artificial, la ciencia y la política: cómo distinguir lo verdadero en un mundo en el que máquinas y seres humanos pueden equivocarse, confabular o seleccionar las pruebas que encajan con sus propias convicciones.
Hinton recordó cómo algunos especialistas en lingüística rechazaron inicialmente que los grandes modelos de lenguaje (LLM, por sus siglas en inglés) pudieran comprender y generar lenguaje de manera sofisticada, incluso cuando sus capacidades empezaban a ser observables, y citó a Noam Chomsky como ejemplo de un investigador al que, en su opinión, las pruebas no hicieron revisar suficientemente sus posiciones.
Hinton planteó además que la inteligencia artificial llegará a comprender cuestiones que podrían quedar fuera del alcance cognitivo de los seres humanos.
“De igual modo que las ratas nunca comprenderán los números primos”, los seres humanos podrían encontrarse ante sistemas capaces de entender cosas que ellos nunca llegarán a comprender, vaticinó.
En ese escenario, si una IA muy superior afirma que algo es cierto “es mejor que te lo creas”, advirtió.
Alucinaciones
Sobre las llamadas “alucinaciones” de la IA, Hinton consideró que su existencia no demuestra que las máquinas carezcan de comprensión, pues los propios seres humanos también reconstruyen recuerdos y confabulan acerca de hechos que creen conocer.
Así, recordó, los modelos de lenguaje aprenden de la actividad humana, por lo que es normal que repitan ese tipo de patrones.
Durante el debate, Steven Pinker coincidió en que se subestimaron las capacidades de los grandes modelos de lenguaje y las implicaciones que plantean para el estudio de la cognición humana.
Añadió, no obstante, en que la utilidad de estos sistemas dependerá de su capacidad para ofrecer respuestas correctas y someterlas a mecanismos de comprobación, en lugar de optimizar únicamente la interacción con el usuario.
Por su parte, Figueres planteó una perspectiva diferente al preguntarse por “mi verdad”, entendida como el conjunto de principios y hechos aceptados con los que cada persona orienta su vida, aunque reconoció la dificultad de hacer convivir esas distintas percepciones.
La incertidumbre
Figueres también propuso, frente a la búsqueda de certezas absolutas, “enamorarse de la incertidumbre” y utilizarla como una herramienta para someter a examen aquello que se presenta como verdadero.
Hinton discrepó de esa formulación y defendió la existencia de una verdad objetiva. “Las personas o las culturas pueden manejar conceptos distintos pero, una vez acordados los términos, determinar si una afirmación es verdadera deja de ser una cuestión de opinión”, esgrimió el Nobel.
Y cerró esa discusión con una distinción: la autoridad puede controlar lo que una sociedad percibe como verdadero, pero no puede controlar la verdad misma.
El debate derivó entonces hacia por qué las pruebas no siempre consiguen modificar las creencias.
Pinker señaló que las personas suelen comportarse racionalmente en cuestiones inmediatas de su vida cotidiana, pero tienen más dificultades ante preguntas complejas o alejadas de la experiencia directa, para las que durante siglos tampoco existieron procedimientos fiables de comprobación.
Por ello Pinker situó precisamente ahí la fortaleza de la ciencia, el periodismo responsable o la democracia: no en ser infalibles, sino en disponer de mecanismos para que una afirmación pueda ser cuestionada y corregida, con instituciones capaces de mantener la confianza mostrando cómo llegan a sus conclusiones, aceptando la posibilidad de corregirse y evitando identificarse con “tribus políticas”.
El cambio climático
Figueres utilizó el cambio climático como ejemplo de esa distancia entre evidencia y acción, pues existe un amplio consenso científico, indicó, pero quienes rechazan sus conclusiones pueden concentrarse en el margen de incertidumbre y utilizarlo para sembrar dudas.
A su juicio, disponer de pruebas tampoco basta si no existen las condiciones sociales, políticas y psicológicas necesarias para actuar a partir de ellas.
Por último, Pinker añadió sobre las resistencias respecto al cambio climático, que la aceptación de la evidencia científica en este tema se ha vinculado estrechamente con la identidad ideológica, en su opinión por la influencia de Al Gore, vicepresidente de Bill Clinton, y avisó de que la politización de una cuestión científica facilita que las personas rechacen evidencias asociadas al grupo político contrario.