El padre de la Inteligencia Artificial moderna pasó ayer por Tenerife y no vino a hablar de tecnología: vino a hablar de la verdad. Geoffrey Hinton, premio Nobel y pionero de las redes neuronales, participó en la apertura del programa de conferencias de Starmus VIII, y con él se abrió una semana en la que la Inteligencia Artificial en Canarias deja de ser conversación de nicho para convertirse en debate de primer nivel mundial.
Starmus es el festival que fundaron el astrofísico Garik Israelian y Brian May — guitarrista de Queen, que también es doctor en astrofísica— para unir ciencia, música y arte. Su octava edición se celebra del 17 al 22 de octubre entre Tenerife y La Palma y reúne estos días a premios Nobel, astronautas y artistas como Andrea Bocelli o Brian Cox. El lema elegido para esta edición no puede ser más oportuno: The Search for the Truth, la búsqueda de la verdad. Porque si algo ha puesto patas arriba la irrupción de la IA no es solo cómo trabajamos, sino algo más profundo: cómo sabemos lo que sabemos.
La búsqueda de la verdad: tres miradas que no se pusieron de acuerdo
La mesa inaugural, moderada por el propio Israelian, sentó juntas tres formas muy distintas de mirar el mundo: la psicología cognitiva de Steven Pinker, profesor de Harvard, la tecnología de Geoffrey Hinton, y la diplomacia internacional de Christiana Figueres, la mujer que lideró las negociaciones del Acuerdo de París. Según recoge La Provincia, los tres coincidieron en algo —la verdad no se puede controlar— y discreparon en casi todo lo demás. No se pusieron de acuerdo, quizás ahí estuvo lo más valioso.
Figueres defendió que cada persona construye «una verdad diferente», que depende de sus valores, de sus principios y de los hechos que le tocan vivir. Hinton y Pinker replicaron sin rodeos que si algo es verdad, «lo es, te guste o no». Para Hinton, cada cultura tiene su propio concepto de la verdad, pero la verdad en sí misma es objetiva, dicho de otro modo, el poder puede controlar lo que percibimos como verdadero, pero no la verdad. Pinker, por su parte, recordó que la fortaleza de la ciencia y del buen periodismo no está en ser infalibles, sino en su capacidad de corregirse.
Ratas, números primos y alucinaciones: lo que Hinton vino a decirnos
De todo lo que se dijo en Arona, hay algo a lo que le doy vueltas después de leer la crónica de EFE, según Hinton, llegará un momento en que los humanos no comprenderemos algunas afirmaciones de la Inteligencia Artificial, igual que una rata no puede entender los números primos. No porque la máquina diga cosas sin sentido, sino porque operará en un nivel de abstracción al que no llegamos.
Hinton también desmontó uno de los argumentos más repetidos contra estos sistemas, el de las alucinaciones. Que una IA invente una respuesta, sostuvo, no demuestra que no comprenda, porque los humanos hacemos algo parecido constantemente, es decir reconstruimos recuerdos, rellenamos huecos, confabulamos con total seguridad. Quien haya discutido alguna vez con un familiar sobre cómo ocurrió exactamente una anécdota compartida sabe de qué está habla Hinton.
¿Significa esto que debemos resignarnos a obedecer a sistemas que no entendemos? Pinker expuso que la utilidad de los grandes modelos de lenguaje depende de que den respuestas correctas, verificables y sometidas a mecanismos de comprobación. Es decir, cuanto menos podamos seguir el razonamiento de la máquina, más valor tienen las preguntas de toda la vida. ¿Quién lo verifica? ¿Contra qué datos? ¿Quién responde si se equivoca? La IA no viene a sustituir nuestro criterio. Viene a exigírnoslo.
La inteligencia artificial en Tenerife como espejo para empresas y profesionales
La primera jornada por otra parte, dejó reflexiones muy aprovechables para cualquier organización. La filósofa de la ciencia Sabina Leonelli afirmó que la IA «ha cambiado la forma en la que interpretamos el mundo», colándose en cada parte del proceso de aprendizaje y obligándonos a replantear cada paso. Lejos de verlo como un escollo, lo consideró una oportunidad — más datos y análisis más eficientes para pensar en problemas reales, como la desigualdad — con una condición, no olvidar la huella ecológica de los centros de datos y diseñar priorizando la diversidad biológica, social y científica. Tecnología con propósito, no tecnología porque sí.
En la ponencia de Kam Ghaffarian, presidente ejecutivo de Axiom Space, este comentaba que buena parte de lo que los libros de texto afirmaban sobre Plutón se ha demostrado que es falso en los últimos años. Su conclusión — «tenemos que seguir explorando siempre» — vale para la astronomía y vale para cualquier negocio. Lo que ayer era verdad operativa en tu sector, hoy puede no serlo. La pregunta incómoda es cuándo fue la última vez que lo comprobaste.
La inteligencia artificial en Tenerife ocupó esta semana el mismo escenario que las estrellas y la música, delante de público general, no solo de especialistas. Creo que ese debería de ser el lugar para esta tecnología, en medio de la sociedad, discutida con rigor y sin humo, al alcance de la empresa familiar y del profesional autónomo, no encerrada en laboratorios ni en titulares apocalípticos.
Pensamiento crítico: la tarea que no se delega
Si tuviera que resumir lo que ha dado de si la jornada en una idea, es que se ha hablado de la posverdad y de pensamiento crítico, no de algoritmos. Los algoritmos son el contexto. La competencia decisiva es nuestra capacidad de distinguir, dudar, verificar y decidir. Eso no lo entrena ninguna máquina por nosotros, y —me atrevo a decir— tampoco se improvisa el día que llega el problema.
En las empresas que se están incorporando a la IA, veo a diario dos vertientes, quien adopta estas herramientas sin preguntarse nada, y quien las rechaza en bloque sin haberlas entendido. Ambas posturas comparten el mismo defecto, han renunciado al criterio. Lo que en Starmus se nos ha recordado esta semana, es que la verdad exige trabajo — comprobación, discrepancia honesta, disposición a corregirse —. Exactamente el mismo trabajo que exige usar bien la Inteligencia Artificial en una organización.
La era de la IA no premiará a quien tenga más herramientas, sino a quien conserve el hábito de preguntarse si lo que ve es cierto. ¿Estás entrenando tu criterio al mismo ritmo al que entrenas a tus herramientas?
