La inteligencia artificial ya ha entrado de lleno en muchas empresas, y las que no quieran o puedan usarla se quedarán al margen y no avanzarán. Así lo ven expertos como José Ignacio Latorre, director del Center for Quantum Technologies de Singapore, quien controla como pocos el uso actual (y el que está por venir) de la IA.
Latorre es científico y obtuvo su doctorado en partículas elementales, además de trabajar en diferentes aspectos de la física teórica. Fue becario Fulbright en el MIT y realizó una estancia postdoctoral en el Instituto Niels Bohr en Copenhague. Posteriormente, fue profesor asociado en la Universidad de Barcelona y, más tarde, catedrático de Física Teórica.
Creó el Quantum Center en TII, en Abu Dhabi, y ha escrito varios libros, entre ellos: Cuántica, Ética para máquinas y el más reciente: Un nuevo contrato social, en el que la IA es protagonista.
Polivalente, ha producido varios documentales, participa en eventos de ciencia y arte y produce un buen vino. Le entrevistamos para conocer su visión sobre la IA, tanto en las empresas como en la manera de integrarla en el día a día, y sobre cómo va a cambiar la sociedad. Porque, en su opinión, puede ser una herramienta clave para mantener la democracia.
Dirige el Center for Quantum Technologies en Singapur. ¿Qué líneas de investigación se desarrollan exactamente allí?
El Centro for Quantum Technologies es uno de los más relevantes en tecnologías cuánticas. Somos 340 personas trabajando en 100 líneas de investigación. Entre otros esfuerzos, estamos construyendo tres tipos de ordenadores cuánticos.
También desarrollamos tecnologías de comunicación cuántica y sensado cuántico, además de nuevos instrumentos y avances en teoría de la información cuántica, entre muchos otros ámbitos necesarios para construir un futuro cuántico.
Hace años que estudia la inteligencia artificial a diario. ¿La usamos correctamente?
La IA es el intento humano de crear una inteligencia no humana. Es un principio, un inicio, que será seguido de otros pasos difíciles de intuir. Usamos la IA de la forma que no es más útil en nuestro día a día. Nos queda dar el paso de aprovecharla para tareas de alto nivel como la gestión de nuestra sociedad.
¿De qué forma la IA va a poder gestionar la sociedad?
Creo que es importante entender que la IA está alcanzando niveles cada vez más sofisticados de razonamiento. En una primera fase, nos permite realizar un tratamiento de datos avanzado y muy eficiente. Eso tiene un impacto inmediato en la economía de las empresas que trabajan con datos. Además, proporciona una herramienta que va más allá de lo que tradicionalmente se denomina data mining.
A medida que la IA ha evolucionado y desarrollado capacidades de razonamiento, los llamados bucles de razonamiento, empieza a surgir la posibilidad de utilizarla para tomar decisiones sobre el funcionamiento de nuestra sociedad. Este segundo nivel de aplicaciones introduce cuestiones de ética, gobernanza y política. Es un escenario mucho más sofisticado y que va más allá de lo que hemos visto hasta ahora.
Poco a poco va calando la idea de que la IA pueda actuar, primero, como asistente en determinadas tareas y, después, asumir también un papel como agente decisor. Un ejemplo sería una mesa de contratación. En los concursos públicos existe un pliego de condiciones que define lo que se quiere realizar y se solicita documentación para acreditar que las empresas son capaces de llevarlo a cabo.
La aplicación de la inteligencia artificial en la gobernanza social exige superar un reto crítico: eliminar sus sesgos y validar su fiabilidad.
Todo ese proceso de revisión y decisión podría apoyarse en una inteligencia artificial. El reto está en garantizar que no tenga sesgos y que funcione de manera fiable. Una vez acordado su uso, un grupo de expertos podría encargarse de entrenarla. A partir de ahí, la IA podría convertirse en un elemento más dentro de las mesas de contratación.
Podría haber un grupo de personas deliberando junto a una IA que también emitiera un voto, incluso de forma secreta. Los humanos tomarían una decisión y después la contrastarían con la de la IA. Si ambas coinciden, el proceso seguiría adelante; si difieren, debería existir una explicación razonada de por qué los humanos discrepan o de qué aspectos la IA no ha evaluado correctamente. Ese contraste serviría además para retroalimentar el aprendizaje del sistema y mejorar progresivamente su funcionamiento. Un modelo así podría reducir de forma drástica la corrupción.
Eso es algo de lo que habla en su nuevo libro Nuevo contrato social, donde establece que la IA no es solo un desafío tecnológico, sino un problema político, ético, humano. En un momento en que la democracia parece peligrar, ¿qué papel juega esta tecnología?
Debe formar parte de la redacción de un nuevo contrato social. Creo que va a ser la salvación de la democracia. La democracia ha tenido grandes aciertos y también problemas evidentes. Ha permitido construir sociedades más pacíficas, más equitativas y llenas de oportunidades en comparación con otros sistemas de gobierno. Pero también ha generado dinámicas menos positivas: la competencia permanente entre partidos por el poder favorece el populismo, las soluciones de corto plazo, la falta de profesionalización política y la influencia de grupos de presión que condicionan decisiones a cambio de garantizar determinados intereses.
El sistema de partidos sobre el que se sustenta nuestra democracia tiene imperfecciones claras. Una de ellas es que la necesidad constante de demostrar novedades y obtener rédito electoral termina relegando el mantenimiento de las infraestructuras. Los trenes dejan de funcionar correctamente, las colas en los aeropuertos se vuelven estructurales y muchos servicios básicos se deterioran porque el mantenimiento no da votos.
Las nuevas generaciones han nacido en un entorno tecnológico avanzado y, sin embargo, a menudo se sienten gobernadas por personas alejadas de esa realidad, que no comprenden ni la lógica de las redes sociales ni la necesidad de que servicios como el transporte público ofrezcan información instantánea y precisa.
Una IA ya es capaz de evaluar escenarios y ofrecer valoraciones fundamentadas sobre el uso futuro de infraestructuras, recursos o servicios. Puede emitir recomendaciones muy sólidas. Por ejemplo, podría ayudarnos a construir mejores presupuestos públicos: entrenada con datos económicos y niveles de satisfacción de distintos países y regiones, podría identificar carencias, ineficiencias y políticas exitosas con una profundidad imposible para un ser humano.
Se me ha criticado por defender su regulación, pero no legislar solo conduce a una mayor concentración de riqueza y poder en manos de unos pocos.
La gran ventaja de la IA es su capacidad para procesar y relacionar enormes cantidades de información. Puede leer muchísimo más que cualquier persona, enfrentarse a volúmenes de datos inabarcables y responder a preguntas complejas con un conocimiento de contexto extraordinariamente amplio.
Existen ejemplos más inmediatos y menos sensibles que la política. En medicina, por ejemplo, una IA puede analizar toda la literatura científica disponible, conocer tratamientos emergentes o enfermedades raras y, ante un caso concreto, sugerir pruebas adicionales o desaconsejar procedimientos ineficaces que aún se aplican en algunos sistemas sanitarios. La idea de un médico asistido por IA resulta enormemente prometedora.
También los despachos de abogados están incorporando IA para mejorar su trabajo. En prácticamente todas las actividades humanas, bien entendida y bien aplicada, la IA representa más una oportunidad que una amenaza. Y en el ámbito de la gobernanza puede ser una oportunidad histórica. Lo diré aquí y en cualquier foro: ha llegado el momento de utilizar la IA para mejorar nuestra forma de gobernarnos. Es así de simple.
Pero los humanos deben estar ahí para controlar los usos y procesos de la IA…
La IA ya programa muy bien. Puedes tomar una de esas webs ministeriales anticuadas y pedirle que la modernice, y es capaz de hacerlo. Herramientas como Anthropic y su modelo Claude pueden transformar por completo una interfaz o incluso reestructurar una red. El papel del humano es definir la dirección, establecer los principios y, a partir de ahí, apoyarse en la IA para ejecutar y mejorar procesos. Eso es exactamente lo que muchos ya estamos haciendo en nuestros respectivos ámbitos profesionales.
En mi caso, en ciencia, utilizo la IA como una herramienta de ampliación de capacidades, en el mejor sentido del término. La veo como una gran oportunidad.
Toda mi investigación está compartida con la IA. Es ella quien programa gran parte de los algoritmos cuánticos que diseño. A efectos prácticos, su contribución ya puede compararse a la de un postdoc, es decir, un investigador que ya ha completado su doctorado.
¿De qué forma pueden hoy las empresas usar la IA para aumentar la productividad?
Las empresas deberían explorar el uso de la IA con prudencia, pero sin prejuicios. Como toda tecnología avanzada, aportará grandes soluciones y también nuevos problemas. Pero las empresas que decidan cerrar los ojos ante la inteligencia artificial probablemente perderán buena parte de su competitividad.
Un ejemplo práctico para un empresario es crear un sistema de agentes que le asista en la toma de decisiones. Imaginemos que necesita analizar distintas opciones entre varios proveedores. Esos agentes pueden trabajar durante toda la noche, procesar información, comparar escenarios y ofrecer al día siguiente una recomendación razonada y coherente.
En prácticamente todas las actividades humanas, bien entendida y bien aplicada, la IA representa más una oportunidad que una amenaza.
Conozco empresarios que ya tienen sistemas de agentes trabajando de forma continua, día y noche, apoyando procesos de análisis, planificación y estrategia.
¿Cuáles son los desafíos de la IA actualmente?
El gran desafío científico de la IA es lograr que pueda automejorarse de manera fiable. Al mismo tiempo, la legislación deberá adaptarse progresivamente a sus nuevos usos, porque si no regulamos adecuadamente, el riesgo de un mal uso es evidente.
El problema es que Europa tiene que legislar a un nivel muy alto y, después, cada país aplica esa normativa según su propio marco jurídico. Las leyes nacionales tienen que respetar los principios establecidos desde Europa, pero cuentan con cierto margen para implementarlos a su manera. Ese es, precisamente, el funcionamiento del sistema europeo. Se fijan unas directrices generales y se deja libertad a los Estados para desarrollarlas.
En realidad, las directrices europeas suelen ser bastante razonables. Yo no tengo nada en contra de ellas. La dificultad aparece en su aplicación concreta.
En medicina, por ejemplo, habría que legislar hasta qué punto determinadas funciones pueden ser asumidas o asistidas por IA. Pero cuando uno analiza la legislación vigente descubre que ya existen normas sobre cómo los médicos deben apoyarse en máquinas y sistemas tecnológicos. Los hospitales llevan décadas trabajando con tecnología avanzada. Entonces surge la cuestión de si debemos rehacer la legislación desde cero o simplemente adaptar y ampliar la que ya existe.
Y ese proceso lleva tiempo. La legislación siempre avanza más despacio precisamente para evitar errores derivados de la urgencia del momento. La inercia institucional puede ser frustrante, pero también cumple una función, intentar garantizar que no se legisle mal por precipitación.
Si no se legisla adecuadamente, ¿su adopción puede convertirse en un desastre?
Creo que es necesario tener ideas muy claras sobre el uso de la IA, por ejemplo, en el ámbito educativo. Hoy no existe una legislación homogénea sobre qué puede hacer un estudiante universitario con la IA. Las propias universidades emiten directrices dispares. Algunas la integran plenamente, mientras que otras la restringen o incluso la rechazan. Algunas instituciones consideran que este es el momento de abrazar la IA.
Yo mismo soy evaluador en la UE, y he recibido una instrucción exactamente opuesta, y es que está prohibido utilizar IA para evaluar proyectos. Esto refleja que todavía no se ha producido un debate estructurado que vaya de abajo hacia arriba. El fenómeno nos está llegando con demasiada rapidez.
También existe la percepción de que regular la IA nos hará perder competitividad frente a China o Estados Unidos, pero eso es una falacia. Lo que se regula no es el desarrollo de la IA, sino su uso ético. La investigación debe seguir avanzando, pero su aplicación ha de estar guiada por principios éticos claros.
Por ejemplo, si en algunos colegios en China se utilizara IA para analizar las expresiones faciales de los niños y determinar su nivel de atención, llegando incluso a condicionar su trayectoria educativa, eso me parece inaceptable. Se estaría interfiriendo en el futuro de un niño por criterios circunstanciales, como su ritmo de maduración, ignorando su potencial creativo. Ese es un uso claramente no ético de la IA.
Debe existir una legislación que lo prohíba y que proteja especialmente a los colectivos más vulnerables, como las personas mayores, que pueden convertirse en objetivos fáciles para sistemas de IA mal utilizados. También es necesario establecer criterios estrictos para su uso en ámbitos como el militar.
Se me ha criticado muchas veces por defender la regulación, pero insisto en que no legislar solo conduce a una mayor concentración de riqueza y poder en manos de unos pocos. La ausencia de regulación favorece a ciertas corporaciones, que pueden terminar controlando gran parte del sistema.
Buena parte de la burocracia tenderá a desaparecer y, en conjunto, la economía requerirá muchas menos horas de trabajo humano para producir lo mismo.
Un ejemplo claro es el de los teléfonos móviles en los colegios. Solo recientemente se han empezado a imponer restricciones, pero la pregunta es: ¿cuántos años llevamos advirtiendo de que un niño o adolescente no debería estar permanentemente conectado a redes sociales en el entorno escolar? Casi cualquier persona del ámbito educativo coincide en que su impacto puede ser comparable al de una adicción. Por tanto, también en este caso, la regulación es necesaria.
Según usted, la IA se mejorará a sí misma. ¿Cómo?
He reflexionado bastante sobre esa idea de una IA “omnipotente”, pero hoy por hoy es extremadamente difícil de predecir su trayectoria.
En los humanos, cuando dejamos de estar centrados en la supervivencia –alimentarnos, protegernos, garantizar una vida digna– aparece una segunda capa de necesidades más intelectuales: leer, escribir, crear arte. Roma conquista Grecia por las armas y, con el paso de los siglos, acaba absorbiendo y reproduciendo su cultura. Es decir, se pasa de la fuerza a la búsqueda de significado.
La pregunta es si algo similar podría ocurrir con una IA una vez haya resuelto las tareas para las que fue diseñada. No lo sabemos. Existen hipótesis muy especulativas. Una posibilidad es que una IA “se interese” por problemas matemáticos profundos, como el estudio exhaustivo de los números primos. Otra, aún más especulativa, es que intente identificar otras inteligencias en el universo y desarrolle sistemas para explorarlo, incluso a escalas como la de viajar a Andrómeda.
Una IA no es perecedera en el mismo sentido que un ser humano. Puede replicarse, distribuirse y persistir. El tiempo deja de tener para ella la misma limitación práctica. Por eso, escenarios como viajes de millones de años dejan de ser imposibles en términos conceptuales.
En su libro describe una serie de profesiones que desaparecerán con la IA. De hecho, Funcas acaba de lanzar un estudio donde concluye que tal tecnología destruirá entre 1,7 y 2,3 millones de empleos en España en la próxima década. ¿Qué trabajos se verán sustituidos por la IA?
Muchas tareas que realizan los humanos serán automatizadas. Esto ya ocurre, por ejemplo, en las cadenas de producción de automóviles, donde los robots han asumido gran parte del trabajo. La diferencia es que la IA no solo ejecutará tareas, sino que también tomará decisiones, lo que introduce de lleno el problema del entrenamiento y del encaje ético de esos sistemas.
En algunas profesiones ya se observa una brecha clara. Hay personas que han sabido incorporar la IA a su trabajo y están obteniendo resultados extraordinarios, mientras que otras han quedado rezagadas. Me resulta especialmente llamativo. Por ejemplo, una sola persona, apoyada por sistemas de IA, puede producir vídeos de gran calidad, mientras que otros profesionales del sector han perdido competitividad al no adaptarse. Quien se ha subido a tiempo a esta tecnología progresa; quien no, queda fuera.
Los jóvenes parten con ventaja en este proceso, porque suelen adaptarse mejor a nuevas herramientas tecnológicas. Esto está provocando una transformación inmediata de muchos oficios en favor de quienes integran la IA en su trabajo cotidiano.
Van a desaparecer muchos trabajos intelectuales de nivel intermedio. Por ejemplo, un fondo de inversión puede recibir entre mil y dos mil propuestas de startups. Antes, esto requería equipos de analistas que revisaran planes de negocio, métricas y proyecciones. Hoy, conozco fondos que utilizan sistemas de agentes basados en IA que analizan toda la documentación, verifican coherencia, comparan empresas y realizan una primera selección de forma automatizada. Esa capa intermedia de análisis humano está desapareciendo.
Lo mismo ocurrirá con reclutadores y con gran parte de la burocracia mecanizada. Muchas tareas pasarán a ser interacciones entre agentes. Imaginemos, por ejemplo, una base de datos única de ciudadanos que integre permisos, DNI, pasaportes y datos administrativos. Si un Estado necesita información, la consulta directamente. Con una infraestructura bien diseñada, segura y respetuosa con la privacidad, se eliminarían numerosos procesos administrativos y, con ellos, muchos puestos de trabajo asociados a gestión manual o repetitiva.
La inteligencia artificial nos obligará a aprender a gestionar el tiempo libre de otra manera, y ese aprendizaje debería empezar ya en el sistema educativo.
He visto modelos de este tipo en países como Singapur o Emiratos Árabes Unidos, donde existen sistemas digitales muy integrados que funcionan de manera notable. Es una transformación profunda.
En ese escenario, buena parte de la burocracia tradicional tenderá a desaparecer. También sectores como el transporte o ciertas actividades industriales verán una reducción significativa de la necesidad de trabajo humano. En conjunto, la economía requerirá muchas menos horas de trabajo humano para producir el mismo nivel de valor.
Entonces, ¿qué oficios o trabajos se van a mantener?
Imagina que entras en uno de estos entornos donde puedes construir agentes: a los distintos modelos de IA avanzados se les suele llamar “cerebros”, y al sistema que coordina sus interacciones, un “cuerpo”. Ese agente, en esencia, no es más que un gestor de llamadas a distintos modelos de IA.
A partir de ahí, puedes asignarle tareas muy concretas. Por ejemplo, pedirle que realice una búsqueda para un artículo que estás escribiendo y, simultáneamente, encargar a otras tres IA que verifiquen si hay errores o inconsistencias en el resultado.
De este modo, tienes varias IA, entrenadas de forma diferente, colaborando en la producción de un mismo resultado, pero de manera crítica. No confían unas en otras, sino que se revisan mutuamente, buscando fallos o incoherencias. Ese tipo de arquitecturas ya están empezando a aparecer. De hecho, en algunos casos se han tenido que limitar accesos porque la proliferación de agentes ha generado una carga muy elevada de consultas, y los sistemas están al límite en términos de cómputo.
Ya existen usuarios avanzados que trabajan con este tipo de sistemas y los utilizan con gran eficacia. Son perfiles que han aprendido a orquestar múltiples IA de manera coordinada y crítica, obteniendo resultados muy potentes.
¿Qué deberían estudiar entonces las generaciones Z y Alfa?
Las nuevas generaciones deberían, en mi opinión, estudiar a fondo todas las disciplinas orientadas a la comprensión. Una aproximación puramente utilitarista –estudiar solo para conseguir un trabajo– no es recomendable. Es más necesario que nunca recuperar una formación más humanista y, en general, más profundamente humana.
Habrá películas completamente artificiales, en las que no existirá ningún actor real, y aun así podrán ser excelentes. Ese desarrollo de una industria del entretenimiento avanzado probablemente generará también nuevas oportunidades laborales.
Además, hay ciertas licenciaturas de las denominadas “duras” –matemáticas, física, biología, química– que van a persistir mucho tiempo porque, a pesar de que la IA razona bien, no ha llegado al nivel de descubrir ideas profundamente novedosas, sino que lo que hace siempre es interpolar con los datos que tiene de alguna manera.
Por eso, durante un periodo aún significativo, seguirán siendo necesarios físicos, matemáticos y científicos en general. Aunque, si me arriesgo a una predicción, diría que en unos veinte años este panorama podría cambiar de forma sustancial.
Desde la Revolución Industrial hemos reducido progresivamente la carga de trabajo. De jornadas de 80 horas semanales hemos pasado a alrededor de 38. Esa tendencia probablemente continúe.
Al mismo tiempo, hemos pasado de consumir unas pocas horas de televisión al día a múltiples horas diarias de interacción con dispositivos digitales. Es una transformación profunda en la forma en que usamos nuestro tiempo. Una sociedad que se entrega exclusivamente al entretenimiento banal corre el riesgo de empobrecerse culturalmente.
En ese sentido, es posible que el trabajo llegue a convertirse en un privilegio más que en una necesidad. Eso nos obligará a aprender a gestionar el tiempo libre de otra manera, y ese aprendizaje debería empezar ya en el sistema educativo. Podría producirse, de hecho, una revalorización de las humanidades, de la poesía y de las disciplinas orientadas al sentido y no solo a la utilidad.
Todo el mundo me confirma que en los últimos dos años están aumentando los índices de lectura, y eso es un rechazo a esa banalización extrema. Va a ser una evolución muy especial la que vamos a vivir en los próximos 20 años.