En esta serie de artículos sobre lo que creo que debería ser la inteligencia artificial corporativa, hemos ido tocando una idea bastante provocadora: quizás el mayor problema de la inteligencia artificial empresarial tal como la conocemos hasta ahora no es la inteligencia, sino el nivel al que la estamos programando.

Hoy, los modelos de frontera, la infraestructura elástica en la nube, las bases de datos vectoriales, las APIs gestionadas y grandes cantidades de computación están al alcance de cualquier empresa seria. Como sustrato, es extraordinariamente potente. Sin embargo, para poner sistemas de inteligencia artificial en producción seguimos necesitando ingenieros que ensamblen a mano cosas tan fundamentales como la persistencia, la memoria, los permisos, el trazado, los reintentos, la orquestación, la ejecución durable, el acceso a herramientas, la gestión del contexto y la evaluación. Como decíamos antes, esto es como internet en 1991, antes de que existiera la web.

Hoy damos por descontados los lenguajes de alto nivel. Pero hace décadas, los desarrolladores tenían que pelear directamente con la máquina, en lenguaje máquina o ensamblador, algo que John Backus describió como «un combate cuerpo a cuerpo con la máquina«. En la historia de Fortran que publicó IBM, la empresa explica que había tareas que requerían hasta mil instrucciones máquina y que podían expresarse fácilmente con solo 47 sentencias Fortran, desvinculando además los programas de hardware específico. Fortran no hizo posible la computación, pero sí la hizo económicamente expresable a un nivel superior.

El mismo patrón lo vimos con C, con Java y con la web. Dennis Ritchie explica cómo C permitió reescribir el propio Unix en un lenguaje ampliamente portable, facilitando su migración entre máquinas. Después, Java convirtió la JVM más las bibliotecas estándar en una plataforma explícita, iniciando el movimiento «write once, run anywhere«. Luego la web transformó un internet ya funcional pero complejo introduciendo una gramática compartida y sencilla —HTML, HTTP y URLs— sobre el sustrato de red. En todos estos casos, la infraestructura existía de antes, pero la abstracción la hizo programable y manejable a gran escala.

La pila agéntica de hoy se parece mucho a otro período pre-lenguaje: usamos Python más frameworks y servicios para programar aplicaciones inteligentes, con cada pieza gestionando características fundamentales por separado. Ninguno de estos productos sobra, todo lo contrario, pero su proliferación también es una señal de que puede faltar todavía una abstracción subyacente. ¿Qué ocurre cuando un ecosistema crece para proveer individualmente propiedades que el sustrato no ofrece de manera natural? Sencillamente, que ese ecosistema empieza a leerse como una factura desglosada de una capa que falta.

¿Quién valida el problema del runtime? El mercado

Pensemos en LangChain: distingue explícitamente el arnés alrededor de un agente del runtime que hay debajo. Ellos mismos explican que los agentes en producción necesitan ejecución durable, memoria, multi-tenancy, supervisión humana en el bucle, observabilidad, sandboxes, integraciones y planificación. Y aclaran que «para construir un buen agente necesitas un buen arnés; y para desplegarlo, necesitas un buen runtime«. ¿Da eso una pista?

Otro ejemplo: Temporal recaudó 300 millones de dólares en febrero a una valoración de 5,000 millones vendiendo la idea de que las aplicaciones de inteligencia artificial de larga duración y con estado necesitan una capa de ejecución durable, lo cual es verdad. Pero en su arquitectura de referencia, las llamadas al LLM y los efectos secundarios externos tienen que envolverse cuidadosamente para que el estado del flujo de trabajo sea reproducible y recuperable. Es sofisticado, sin duda, pero también es la prueba de que seguimos ensamblando manualmente primitivas que un runtime nativo de inteligencia artificial futuro podría razonablemente hacer intrínsecas.

LangGraph o la propia Anthropic cuentan la misma historia desde ángulos distintos. La pila actual puede construir casi cualquier cosa, sí, pero a un coste considerable. Y ese coste, como ocurrió hace tiempo con el ensamblador, es una complejidad extraordinaria. Con ensamblador se podía hacer software increíble, claro, pero el coste de ingeniería, la fragilidad y la falta de una abstracción reutilizable nos obligaban a reinventar la rueda. Una y otra vez. Hoy, con Python más bases de datos más colas más orquestación más trazado más almacenes de memoria, podemos producir excelentes sistemas de inteligencia artificial, pero cada equipo tiene que resolver los mismos problemas una y otra vez.

Como he dicho antes, las metáforas no industrializan bien. Para que el software sea verdaderamente industrial, la capacidad tiene que seguirse de la formalización. ¿Ejemplos? El modelo relacional de Codd apareció antes que el ecosistema de bases de datos. Los estándares web precedieron a la economía web. Y el ERP creó las abstracciones empresariales compartidas que seguimos usando. La formalización tiene que alcanzar en algún momento al propio runtime. Cosas tan importantes como la memoria, el estado, los permisos, los flujos de trabajo, la ejecución con journal y el aprendizaje tienen que convertirse en primitivas, no en bibliotecas pegadas después con cinta adhesiva.

La distinción importante: entre un framework de agentes y un runtime nativo de inteligencia artificial

Cuando se escribe software convencional, los desarrolladores no tienen que implementar manualmente cosas como la memoria virtual, la planificación de procesos o la semántica del sistema de archivos en cada aplicación. Cuando un sustrato madura, puede proporcionar esas propiedades de forma automática. Pero por alguna razón, cuando luchamos por desarrollar inteligencia artificial empresarial, seguimos tratando cosas tan importantes como la identidad persistente del agente, el acceso gobernado, los historiales estructurados y las señales de aprendizaje como problemas únicos que hay que resolver cada vez, caso por caso. Esto no tiene ningún sentido: todas esas cosas deberían ser propiedades del runtime, no productos externos que hay que ensamblar manualmente cada vez como si fuéramos artesanos.

Se puede seguir la pista de manera bastante obvia mirando dónde aparecen las startups: la memoria, la ejecución durable, la observabilidad, el sandboxing, los guardrails, la identidad del agente y la orquestación se están convirtiendo todos en categorías propias, con empresas que brotan como setas y levantan cantidades interesantes de dinero. Eso es bueno para los emprendedores y para el ecosistema, supongo, pero históricamente es una señal temprana que precede a la abstracción. ¿Serán estas capas permanentemente independientes, o estamos viendo cómo una industria vende temporalmente por separado las piezas que un runtime futuro acabará absorbiendo y fusionando?

Las cosas cambiarán (tarde o temprano)

¿Sabes qué tiene de extraordinario la era actual de la inteligencia artificial corporativa? Que ya hemos construido el equivalente del mainframe, la red y la nube computacional, pero seguimos programando la mayor parte de la capa inteligente puramente a mano, línea a línea, con sangre, sudor y lágrimas. Cuando los desarrolladores del futuro miren los intrincados wrappers de Python, las bases de datos de checkpoints, las colas, los sistemas de trazado, los almacenes de memoria y los grafos de orquestación de hoy, los verán igual que nosotros vemos hoy los primeros listados en ensamblador: asombrosos, laboriosos, impresionantes para su época, y sorprendentes porque toda esa complejidad se consideró en su momento necesaria.

Piénsalo con perspectiva histórica: si todo gran sustrato computacional acabó adquiriendo un lenguaje y un runtime que expresaba sus abstracciones nativas, ¿por qué iba a ser diferente la inteligencia artificial? Puedes pensarlo como un experimento mental, o como un deseo descabellado: ¿qué tendría que hacer nativas ese runtime para convertirse en la plataforma de tus sueños, la que haría mucho más fáciles tus implementaciones de inteligencia artificial corporativa? De momento, esa es la pregunta interesante. Pero tarde o temprano, puede que deje de ser solo un experimento mental…

(This article was previously published on Fast Company)

Esta noticia me ha parecido muy interesante: hasta ahora, los agentes de inteligencia artificial actuaban sobre información, pero Google acaba de anunciar que lanza Google Home MCP con lo que van a ser capaces de observar y modificar directamente el entorno doméstico. Entendámonos: no se trata de lanzar otra versión de un asistente de voz, sino de dotar a una inteligencia artificial con los ojos, la memoria y la capacidad de actuación que queramos a través de los sensores y actuadores de los dispositivos conectados de nuestra casa. Básicamente, lo que Google pretende es, mediante un Model Context Protocol, convertirse en la verdadera infraestructura de la casa inteligente.

Los agentes compatibles con MCP podrán descubrir habitaciones y dispositivos, consultar su estado, analizar lo que ha pasado anteriormente con ellos y ejecutar acciones. Las posibilidades son, de entrada, enormes: podemos, por ejemplo, reconstruir qué pasó cuando los niños llegaron a casa gracias a la información de varias cámaras o sensores, o calcular cuánto tiempo han estado las luces encendidas. Además, podemos generar cualquier panel personalizado y comunicarnos con los agentes a través de los altavoces inteligentes. Llevo tiempo, por ejemplo, queriendo crear sistemas de reglas para gestionar cuándo se carga la batería de casa o cuándo la del coche en función de los electrodomésticos que estén consumiendo electricidad en casa: con algo así, podría hasta ser sencillo y potente.

Hasta ahora, la domótica ha sido en gran medida un fracaso. Nunca hemos tenido una casa inteligente que verdaderamente estuviera al nivel de las expectativas, y si lo conseguías, era para unas pocas funciones y combinando aplicaciones, estándares, concentradores y reglas que tenías que configurar manualmente. Ahora, podremos tener un agente capaz de traducir instrucciones expresadas en lenguaje natural en controles, configuraciones y paneles personalizados a modo de vibe coding, mientras Google prepara también la creación y gestión de automatizaciones.

La jugada estratégica de Google es interesantísima: renuncia a controlar necesariamente toda la interfaz, y proporciona la capa que conecta todo: cámaras, sensores, electrodomésticos y datos históricos del hogar. Además de ofrecer Gemini for Home como plataforma completa para fabricantes, operadoras y empresas de seguridad, ahora posibilita configurar Google Home como una especie de AWS doméstico.

Model Context Protocol, MCP, es la capa estándar que permite conectar agentes con datos y herramientas mediante una interfaz común. Está siendo adoptado como estándar por las grandes compañías, y con su gestión por la Agentic AI Foundation apunta a convertirse en una posible infraestructura para la era de los agentes. Ahora, la pregunta relevante no va a ser quién fabrica la mejor inteligencia artificial, sino quién controla las herramientas, permisos y datos a los que esa inteligencia artificial puede acceder. Si quieres integrar distintos agentes, o te fías más de Claude que de Gemini, no tendrás problemas para integrarlos con MCP.

Por ahora, hablamos de un simple experimento: con acceso anticipado, sólo en Estados Unidos, con una suscripción Premium Advanced de veinte dólares mensuales, teniendo que crear un proyecto en Google Cloud y configurar credenciales OAuth, esto no es todavía para el común de los mortales. Pero es una indicación interesantísima de cómo vamos a ver la integración de la inteligencia artificial en el hogar, y de cómo va a ir preparándose para su uso por parte del usuario medio.

Por otro lado, para resultar de verdad útil, un agente necesita conocer rutinas, cámaras, presencia, consumos y dispositivos, pero cuantos más permisos vayas dando, más vas a ampliar las posibles consecuencias de un error o de un ataque, con todo lo que puede conllevar. Por el momento, Google impide acciones como abrir cerraduras, exige consentimiento adicional para usar reconocimiento facial y prohíbe utilizar los datos para entrenar modelos, pero admite que podrían darse comportamientos no deseados. Seguramente acabaremos viendo límites deterministas, registros detallados de acciones y supervisión humana en varios puntos para evitar que pasen cosas raras, pero me parece una iniciativa realmente interesante… matizada por el problema de que, cuando realmente tengas algo coherente en lo que seguramente sea un producto minoritario, Google anunciará en una de sus spring cleanings que lo elimina y enviará al cementerio todo aquello que tanto tiempo te había costado configurar, como ha hecho en otras tantas ocasiones. Como para fiarse…

In English on Medium, «How Google plans to give the smart home a brain»

Una noticia en Los Angeles Times, «Hollywood fears an AI future. China is already living it«, me despierta una gran curiosidad sobre esos procesos históricos de sustitución tecnológica que surgen al hilo de la aparición de casi cualquier tecnología nueva, y que tienden a generar actitudes de desprecio que, más adelante, suelen convertirse en otra cosa y evolucionar. En el caso del cine, lo tengo muy claro, pero sin duda, eso no es así para mucha gente: para mí, que algo haya sido «hecho con inteligencia artificial» es una información que define un proceso, no una calidad.

Una película no es buena por el hecho de tener actores de carne y hueso (y de hecho, hay cada bodrio espantoso por ahí que lo corrobora), del mismo modo que tampoco es mala por contener imágenes creadas sintéticamente. El guion, la interpretación, el montaje, el ritmo, la intención y la capacidad para generar emociones me parecen criterios mucho más razonables que el hecho de si hay o no personas de carne y hueso implicadas en el proceso. Creo que lo apropiado es separar dos preguntas: la primera, si la obra es buena. Y la segunda, si el proceso de creación es legítimo y reparte justamente el valor entre quienes participaron en él.

China produjo unos 128,000 microdramas durante el primer trimestre de 2026, y más del 95% utilizó inteligencia artificial. Hay estudios que afirman poder producir ahora películas que antes costaban millones de dólares, por tan solo $500,000. Hay actores que licencian su cara y sus expresiones faciales para crear intérpretes sintéticos, aunque hay también directores que afirman que los actores humanos generan matices que los modelos de inteligencia artificial aún no son capaces de generar. Por el momento, este experimento ofrece sin duda escalabilidad y desarrollo de expertise, pero no necesariamente excelencia.

Hay estudios que demuestran que las historias generadas por inteligencia artificial fueron consideradas más absorbentes y de mejor calidad que las humanas, pero que recibían peores valoraciones si se informaba sobre su origen sintético. Con la poesía ocurre algo similar, al menos entre lectores no expertos, y con la pintura también: si etiquetas aleatoriamente como humanas o sintéticas una serie de obras todas ellas generadas por inteligencia artificial, las etiquetadas como supuestamente humanas obtienen mejores valoraciones y tienden a considerarse más bellas, profundas y valiosas. El prejuicio es evidente: no juzgamos las obras, juzgamos la historia que nos cuentan sobre su creación.

Históricamente, el patrón es claro: se tiende a confundir la facilidad técnica generada por una nueva tecnología con una ausencia de mérito. Toda tecnología nueva empieza llamándose trampa. La fotografía posibilitó que prácticamente cualquiera se hiciera un retrato, pero al principio se consideraba inferior. Después surgió la polémica en torno a las manipulaciones de la imagen y sobre si demostraban creatividad o traicionaban la supuesta «pureza» del medio. Ahora, prácticamente nadie considera que una fotografía sea un arte inferior porque entre el autor y la imagen haya una cámara.

Con el cine sonoro y la música electrónica pasó lo mismo: el sonido grabado tardó tres décadas en integrarse en el cine, hoy es completamente indiscutible. La música electrónica hizo que, una vez desaparecida la novedad, la pregunta ya no fuese si gustaba o no, sino qué compositores electrónicos gustaban. Seguramente, en no mucho tiempo dejaremos de hablar de «cine con inteligencia artificial» como si fuera una categoría homogénea.

Al final, la creatividad humana no desaparece: simplemente cambia de sitio. Si usas una tecnología generativa, tu aportación estará en concebir el proyecto, dirigir interpretaciones, proporcionar referencias, descartar muchos resultados, ordenar planos, reescribir, montar y decidir cuándo el resultado es adecuado o está terminado. Según la oficina del copyright de los Estados Unidos, utilizar inteligencia artificial no impide la autoría humana: se puede proteger la selección, la coordinación, la disposición o la modificación creativa aunque un simple prompt o una generación completamente autónoma puedan no ser suficientes. La pregunta adecuada no es si se usó una máquina, sino dónde están las decisiones expresivas.

En la práctica, Hollywood no está adoptando la postura contraria: está manteniendo un discurso defensivo mientras experimenta con todo: modelos entrenados con sus propios catálogos, modificaciones con inteligencia artificial de actores para mostrarlos a distintas edades, guionistas que pueden utilizar voluntariamente herramientas generativas, pero a quienes los estudios no pueden imponerlas ni entregar un borrador sintético para degradar su trabajo a una reescritura peor pagadapero no impuestos por el estudio para abaratar su coste… estamos empezando a ver de todo. El conflicto está en quién controla la herramienta, quién autoriza su uso y quién capitaliza el ahorro generado, si existe. Y seguramente lo más defendible es eso, combinar la experimentación china con las garantías laborales que aparentemente Hollywood intenta preservar. Un sistema sostenible debería permitir combinar una experimentación agresiva con un sistema que posibilite exigir licencias, trazabilidades, consentimientos y compensación para los implicados, sean voces, caras u obras.

En el futuro, seguramente no veremos una sustitución total, sino un montón de combinaciones, o al menos, así ha ido ocurriendo históricamente. Pero también habrá «mercados nostálgicos» para obras que no hayan ni rozado la inteligencia artificial, como ocurre hoy con el vinilo, con la fotografía analógica o con los objetos de producción puramente artesanal. Al final, una película generada con inteligencia artificial no es necesariamente mejor o peor, sino que tiene que ganarse su calidad: el error histórico está en juzgar y evaluar cada nueva tecnología en función de las primeras imitaciones baratas del medio anterior. Al principio, generamos sustitutos torpes y malos, pero posteriormente descubrimos nuevas posibilidades que el medio anterior nunca pudo ofrecer.

La creatividad no está en el esfuerzo mecánico, en el número de actores que contratamos o en el número de personas que intervienen en la producción, sino en si tenemos algo que contar y lo sabemos convertir en una experiencia susceptible de interesar a otros.

In English on Medium, «When it comes to AI and movies, we’re asking the wrong questions»

La parafernalia que se ha organizado en torno a las declaraciones de los líderes de las compañías de inteligencia artificial norteamericanas diciendo que ven hasta recomendable una pausa pero no planteándose hacerla porque no se puede controlar que la hagan todos, con China diciendo que se ven amenazados y Donald Trump por el medio desestimando el tema y diciendo que ya lo controla él, como si hubiese sabido alguna vez de algo en su vida, me han evocado muy claramente una película, «Juegos de Guerra» (1983), y su conclusión evidente: la única jugada ganadora es no jugar. De hecho, incluso he visto una referencia por ese camino en The Guardian utilizando la misma película.

Los principales líderes de la industria dicen que quieren frenar, pero nadie quiere hacerlo. Aquí vemos desde teorías de la conspiración sobre una hipotética captura regulatoria que dicen que lo que quieren es quedarse como las únicas «autorizadas» a seguir desarrollando, hasta los que afirman que no es exactamente frenar, sino acompasar capacidades y seguridad, mientras todos condicionan su propuesta a que los demás hagan lo mismo.

De los protagonistas de esta obra, Anthropic y OpenAI son los que están forzando más el guión. Google, con capacidades de sobra que justificarían llamar la atención sobre el tema, permanece fundamentalmente callada (actualizo, ya no), y Microsoft, básicamente, reclama sentido común. ¿Estamos, como algunos pretenden, al borde de un desastre existencial? ¿Qué hay de realista en todo esto? ¿Puede realmente la inteligencia artificial acabar con la humanidad? Sabemos que es capaz de hacer cosas malas cuando se la instruye para ello o cuando se descuidan las precauciones, y sabemos que esas capacidades escalan a medida que los modelos se convierten en más potentes. Sabemos también de su capacidad de desarrollar bucles de retroalimentación que se mejoran de forma auto-recursiva, y todos vemos la evidente posibilidad de que capacidades así puedan caer en malas manos y ser convertidas en amenazas. ¿Suficiente como para justificar la paranoia que estamos viviendo? Al menos, suficiente como para exigir un control, una regulación y responsabilidades adecuadas sobre lo que algunos irresponsables están haciendo. Eso, sin duda.

Mi reflexión sobre esto tiene que ver con lo absurdo que resulta convertir la prudencia en una desventaja. Ninguna de las compañías implicadas está actuando de manera irracional: quien ralentiza unilateralmente pierde talento, mercado, clientes, contratos, capital y posicionamiento estratégico. La reacción inmediata de los mercados refuerza esta idea: todos están dispuestos a sacrificar la seguridad a cambio de más crecimiento y dinero, como si lo segundo importase lo más mínimo sin lo primero. Claramente, la estupidez no está en cada participante, sino en el resultado colectivo producido por incentivos individualmente racionales.

Además, la carrera entre compañías se convierte en carrera geopolítica: los Estados Unidos y China temen cosas distintas, pero ninguno puede protegerse unilateralmente de una hipotética catástrofe tecnológica capaz de cruzar cualquier frontera. ¿Hay alternativas?

Mi impresión es que un desafío así sólo puede asumirse mediante la colaboración. Pero antes de que empecemos con tópicos al estilo Lennon, con llamamientos a la fraternidad universal mientras entonamos el «Imagine», nos damos todos las manos e imaginamos que no hay países (es fácil si lo intentas), pensemos que la humanidad ya ha cooperado anteriormente frente a tecnologías costosas o peligrosas: el CERN, por ejemplo, nació como un proyecto de ciencia para la paz, el Organismo Internacional de Energía Atómica (IAEA) usa declaraciones, inspecciones, vigilancia y mecanismos de alerta precisamente porque los países no se fían los unos de los otros. Para cooperar no es necesario que «seamos todos amiguitos», sino convertir la desconfianza en procedimientos accionables.

¿Sería viable un CERN para la inteligencia artificial? ¿Una institución internacional capaz de reunir talento, capacidad de computación e investigación sobre seguridad, capaz de someter los modelos de frontera a evaluaciones independientes, y de desarrollar aplicaciones de interés público en cuestiones como medicina, educación, ciencia o clima? No soy el primero que lo plantea: RAND ha analizado cinco posibles escenarios y funciones para una organización de ese tipo, empezando por la creación de un entorno seguro, la resolución de problemas de coordinación, o el desarrollo de usos que el mercado seguramente no querría financiar voluntariamente.

Una organización así podría ser abierta en el sentido de distribuir sus beneficios, pero no irresponsablemente abierta para que cualquiera pudiese hacer lo que quisiera con los resultados, manteniendo las capacidades de frontera bajo custodia y los accesos controlados. Los modelos abiertos, como bien afirma Stanford, son buenos para reducir la concentración, favorecer la innovación y facilitar el escrutinio independiente, aunque como también afirma Nature, también pueden propiciar abusos si la apertura se lleva a cabo sin auditorías ni gobernanza adecuadas. El objetivo de algo así debería ser universalizar los beneficios, sin regalar a nadie capacidades catastróficas para obtener posiciones de fuerza, amenazar o hacer el mal.

Poner en marcha algo así no es idealismo: de hecho, hay embriones posibles que pueden utilizarse: Estados Unidos, China, la Unión Europea y otros países ya firmaron en su momento la Declaración de Bletchley, y compañías estadounidenses, europeas y chinas aceptaron en Seúl evaluaciones, umbrales de riesgo y la posibilidad de no desarrollar modelos que no puedan gestionarse de forma segura. El Carnegie Endowment for International Peace propone empezar con una pragmática «seguridad en paralelo” entre Estados Unidos y China: prohibiciones sobre usos concretos, intercambio de incidentes y pruebas comunes.

Volviendo a «Juegos de Guerra»: todavía podemos desarrollar la tecnología y, de hecho, es seguro que lo haremos. Lo que debemos abandonar es una carrera en la que incluso el supuesto vencedor puede terminar desapareciendo junto con todos los demás. La única jugada ganadora no es dejar de desarrollar inteligencia artificial: es dejar de competir por ella como si fuese un arma con la que alguien pudiera conquistar el mundo sin destruirlo.

In English on Medium, «In the AI war game, this is the winning move»

Este es un tema que me trae a mal traer: no conozco ninguna aplicación de inteligencia artificial que haga algo tan sencillo como leerse un montón de mis textos, aprender mi estilo, cuáles son las palabras que utilizo habitualmente, y que simplemente me funcione como corrector ortográfico verdaderamente inteligente: es decir, que lo único que haga, en lugar de pretender escribir por mí, sea corregir sobre la marcha los errores de teclado más habituales, las teclas que están juntas y se me escapan tantas veces, la inmensidad de veces que le doy a la maldita «ç» en el teclado español cuando voy a poner un acento, las veces que activo por error la tecla de mayúsculas (me pasaba tanto que la he desactivado… total, nunca escribo en mayúsculas, debe ser que me enfado poco).

Lo que quiero, por tanto, es una inteligencia artificial que convierta mi teclado en un dispositivo inteligente. Simplemente eso: un teclado que evite los errores tipográficos. Cuando escribes la cantidad de texto que escribo yo en un día, los errores tipográficos, las pulsaciones dadas entre teclas o mal dadas y las mayúsculas o acentos mal puestos no son un simple contratiempo: son un maldito martirio que interrumpe el flujo creativo. Y con la tecnología actual, hacer un teclado inteligente no es tan complicado.

Tengo claro lo que quiero, pero sobre todo, tengo claro lo que NO quiero. No quiero que escriba por mí, para nada. Que ni se le pase por la imaginación. Quiero que simplemente entienda lo que estoy escribiendo, y sustituya únicamente las teclas mal pulsadas. No quiero sugerencias de estilo: gracias, pero ya sé escribir: quiero que corrija únicamente errores inequívocos de concordancia, género o número, pero muy poco más. Quiero simplemente despreocuparme del teclado y escribir de corrido, tanto en el ordenador como en el móvil, tanto en inglés como en español. Sin más. Claramente, para mí y en este tema, menos es más.

Ya existen modelos capaces de escribir textos imitando el estilo de un autor, pero todavía no un corrector ortográfico que realmente conozca a su usuario y sea de verdad inteligente. No quiero que nadie escriba por mí: escribir es pensar, es aprender, es interiorizar, es elegir argumentos y palabras, y es desarrollar una voz y un estilo propios, no los que una máquina elige por ti. Lo que quiero es librarme de la parte puramente mecánica: las erratas y la revisión ortográfica. No quiero un corrector genérico (los tengo desactivados en todas partes porque me parecen malísimos y peligrosísimos), ni una herramienta que me proponga frases presuntamente «mejores». Quiero que pueda alimentarla con cuantos artículos quiera, como de hecho ya hice con mi Bautista, que me funciona de maravilla, y que entienda que hay palabras que uso mucho, aunque sean a lo mejor extranjerismos, o términos que prefiero en inglés, o que como soy ateo recalcitrante, casi siempre escribo «dios» con minúscula. O que utilizo algunas expresiones a propósito que son poco convencionales. Que sepa qué teclas están al lado de otras, y reconozca cuando mis dedos golpean dos teclas a la vez, o se equivocan.

Google ya ha desarrollado para Gboard un modelo espacial personalizado que adapta el teclado a la manera en que cada usuario pulsa las teclas y consigue mejoras medibles en precisión y velocidad. Pero está dirigido al teclado táctil, y para nada es capaz de construir un corrector completo para un autor específico. Apple utiliza desde iOS 17 un transformer cada vez que el usuario pulsa una tecla, capaz de efectuar correcciones a nivel de frase y aprender algunos patrones de escritura, pero es limitadísimo. Gboard guarda localmente palabras y datos aprendidos para personalizar sus predicciones. LanguageTool tiene un diccionario personal y Grammarly ya proporciona corrección ortográfica y gramatical en español, además de un perfil de voz que aprende del usuario. Pero no, no es eso: ninguno combina vocabulario, contexto, estilo, comportamiento mecánico y aprendizaje continuo de las correcciones aceptadas o rechazadas.

El sistema debería combinar un modelo lingüístico contextual, un corpus personal de textos, un modelo individual de errores de teclado y un historial de intervenciones aceptadas, rechazadas o deshechas. Google ya demostró que incorporar el léxico privado de cada usuario mejora claramente la corrección ortográfica en búsquedas personales. Un trabajo presentado en EACL 2024 muestra también cómo entrenar correctores reproduciendo errores humanos reales, teclas adyacentes y patrones característicos de distintos dominios. Para hacerlo bien de verdad, el sistema tendría que observar no sólo los artículos terminados, sino también las pulsaciones originales, los retrocesos y las correcciones posteriores. Eso revela prácticamente todo lo que una persona escribe. Por tanto, tendría que ejecutarse preferentemente en el dispositivo, con un perfil propiedad del usuario, exportable y transferible entre aplicaciones y ordenadores, lo que además me tranquilizaría en términos de privacidad.

El tema es que no me toque lo que para mí está bien. La sobrecorrección me despista, me hace perder el hilo y me cabrea soberanamente. No quiero que «embellezca» mis textos, ni que los «normalice», ni que sustituya palabras o modifique mis ritmos. Una investigación presentada en EMNLP 2025 confirma que los LLM muestran una tendencia a la sobrecorrección y a una menor precisión. El corrector ideal debería intervenir automáticamente sólo cuando estuviera prácticamente seguro, subrayar los casos dudosos y abstenerse en todos los demás.

Un prototipo bastante eficaz podría construirse perfectamente ya. Un corrector realmente personal, en español, integrado en todo el sistema y capaz de aprender tanto el lenguaje como los errores físicos de su usuario tardará algo más, pero no porque falten los modelos necesarios, sino porque nadie parece haber combinado todavía todas esas piezas en un producto coherente. Eliminar por completo la revisión seguirá siendo imposible en textos mínimamente delicados: no hay herramienta que pueda saber con certeza si una cifra, una fecha o un nombre incorrectos son una errata o son algo que el autor pretendía afirmar.

Estamos utilizando la inteligencia artificial para reemplazar la parte creativa que muchas personas queremos conservar, mientras seguimos haciendo manualmente las tareas más tediosas e incómodas. Steven Levy desarrolla muy bien esa frontera entre asistencia y sustitución en «AI drafting my stories? Over my dead body«. Además, la asistencia generativa, como no podía ser de otra manera, empuja el lenguaje hacia estilos más homogéneos, y eso me parece espantoso. La inteligencia artificial verdaderamente personal no debería escribir como nosotros, sino permitirnos escribir mejor sin dejar de ser nosotros.

La inteligencia artificial más sofisticada no es la que aprende a escribir por nosotros, sino la que aprende a corregirnos sin robarnos nuestro estilo y nuestra voz.

In English on Medium, «AI: just fix my keyboard, not my writing»

Llevo semanas intentando describir en esta serie lo que creo que será el futuro de la inteligencia artificial corporativa. Imaginemos que alguien, en algún lugar, desarrolla una solución que cumple con todos los requisitos que he ido esbozando aquí: ¿estaría tu empresa en condiciones de adoptarla y aprovechar todas las ventajas que hemos descrito? La respuesta, en la mayoría de los casos, sería no. Y la razón es sencilla: antes de poder optimizar una empresa con inteligencia artificial, la inteligencia artificial necesita entender qué quieres optimizar. La inteligencia artificial no puede optimizar bien lo que no puede representar.

La paradoja actual es que las empresas están dando acceso a modelos cada vez más sofisticados a sus herramientas y flujos de trabajo, pero esos modelos solo tienen una representación fragmentaria del mapa de la organización que intentan optimizar. Un LLM puede saber muchísimo sobre gestión, marketing o logística —al fin y al cabo, ha «leído» prácticamente todo lo que se ha escrito sobre ello—, pero no sabe nada de tus clientes concretos, tus dependencias específicas, tus procesos burocráticos, tus excepciones habituales, tu tolerancia al riesgo o las implicaciones en cadena de cambiar un proceso. Hay que separar la memoria simple de lo que constituye un verdadero modelo de datos: la memoria puede recuperar lo que ocurrió en un momento determinado, pero un modelo de datos puede representar formalmente identidades, relaciones, permisos, restricciones y estados válidos.

No, el contexto no es comprensión

Hoy las empresas intentan salvar esa brecha proporcionando todo el contexto que pueden. El problema es que el contexto responde a cosas como qué información debe considerar el modelo en un momento dado, pero no responde a algo tan relevante como cómo funciona la organización. Si en un artículo anterior pasamos de la memoria a los modelos, ahora hay que dar el siguiente paso: pasar del contexto a un modelo de la dinámica organizacional.

El primer paso es definir una ontología, que es lo mismo que dotar a la empresa de sustantivos, verbos y reglas. Palantir lleva años intentando convencer a muchas compañías de esto, no solo porque es la manera correcta de proceder, sino también porque para hacerlo envía a sus Forward Deployed Engineers: construir ontologías a mano es caro y laborioso, lo que explica tanto la importancia de los FDEs como la economía del modelo de negocio de Palantir. Más allá de que Palantir intente apropiarse del término «ontología», de lo que estamos hablando —¡o quizás no tan simple!— es de representar entidades del mundo real como objetos, sus relaciones como enlaces y las acciones de la empresa como verbos. Una capa operacional, o algo parecido a un gemelo digital de toda la organización: una arquitectura que empareja «sustantivos» con «verbos», donde fábricas, pedidos, trabajadores o clientes están en el primer grupo, y lanzar promociones, ajustar precios, cambiar distribuidores o ejecutar un flujo de trabajo están en el segundo.

De ontologías a modelos del mundo

Pero una ontología solo te dice qué hay en la empresa y qué puedes hacer con ello. El siguiente paso es un modelo del mundo, término asociado habitualmente a la robótica y la inteligencia artificial física, pero que me resulta igualmente útil en las arquitecturas de inteligencia artificial corporativa. Un modelo del mundo va más allá: intenta aprender la dinámica que subyace a esa representación, incluido lo que es probable que ocurra a continuación. En el campo de la investigación en inteligencia artificial, un modelo del mundo es una representación interna que captura la dinámica de un entorno con suficiente fidelidad como para predecir consecuencias y apoyar la planificación. Para usar un ejemplo de IBM: una cosa es describir por qué falla una máquina, y otra muy distinta es predecir qué pasará si no se realiza ahora mismo un determinado mantenimiento preventivo.

Una empresa necesita ser capaz de entender que, por ejemplo, obligar a los operadores de atención al cliente a reducir la duración de sus llamadas tiende a aumentar la tasa de abandono, no solo que las llamadas más cortas suponen menos costes. Para ser fiable, la toma de decisiones algorítmica necesita razonamiento causal, porque las decisiones siempre implican relaciones de causa y efecto y hay que alinearlas con objetivos del mundo real. Dave Wright, veterano Chief Innovation Officer de ServiceNow, ve un enorme potencial en la aplicación de gemelos digitales de empresas enteras para simular escenarios, efectos regulatorios y mucho más.

Las compañías deberían ser dueñas de su propio aprendizaje

Una vez que tienes el modelo de tu empresa, puedes hacerlo cada vez más valioso retroalimentándolo con acciones y resultados. Capturar decisiones y sus consecuencias permite enmarcar las decisiones futuras en el contexto de las elecciones anteriores, y puede alimentar el reentrenamiento o el ajuste fino. Así, con estos bucles, la empresa empieza a ser dueña de su propio aprendizaje, como dijo Satya Nadella.

No hay que asustarse: sé que las organizaciones son complejas, dinámicas y políticamente cargadas. Una representación así no tiene que ser perfecta, y el modelo, por supuesto, tendrá que ser parcial, abierto, revisable y gobernado. El objetivo no es construir un oráculo omnisciente, sino una representación que mejore con el tiempo. La idea es convertir la representación que una empresa tiene de sí misma en el activo duradero. Dos empresas pueden usar exactamente el mismo modelo frontera, la misma versión de Claude, ChatGPT, Qwen o cualquier otro LLM, pero ese modelo puede convertirse progresivamente en el motor que opera dentro de algo mucho más valioso: la representación propietaria que cada empresa ha construido de sí misma, con su propio contexto, sus reglas, su historia y su aprendizaje acumulado.

Hay que pasar de la idea de la empresa optimizable a una más interesante: la empresa comprensible, porque antes de que una empresa pueda ser optimizada, tiene que ser comprensible para la inteligencia que intenta optimizarla.

Pasamos décadas digitalizando empresas para que el software pudiera registrar lo que hacen. El siguiente paso será modelarlas para que la inteligencia artificial pueda entender qué significan sus acciones. Pronto, este tipo de herramientas empezarán a estar disponibles, y la pregunta será si tu empresa está preparada para adoptarlas.

Es hora de estarlo….

This article was previously published on Fast Company.

Una noticia de Bloomberg afirma que Sam Altman está considerando la posibilidad de pausar el desarrollo de la inteligencia artificial de forma conjunta con otros laboratorios, pero realmente, las cosas están muy lejos de estar ahí. La realidad no es que Altman quiera parar, sino que únicamente considera viable hacerlo si el resto de las compañías de inteligencia artificial frenan también, un acuerdo prácticamente imposible de lograr, de concretar y de controlar. El propio Altman afirma, de hecho, que algunos laboratorios no lo aceptarían, y reclama estándares comunes para todos. Esta circunstancia convierte esta aparente decisión ética en un problema de coordinación: nadie quiere seguir acelerando hacia algo potencialmente incontrolable, pero nadie puede permitirse una pausa mientras otros continúan.

La situación encaja casi literalmente en el conocido dilema del prisionero de la teoría de juegos. Para cada compañía, continuar el desarrollo a la mayor velocidad posible es la estrategia aparentemente racional. Pero si los demás paran, quien continúa obtiene mejores modelos, atrae más talento, más clientes, contratos públicos y posiblemente un efecto pionero capaz de dar lugar a una ventaja competitiva sostenible. Si las demás continúan, parar significa quedar fuera de la carrera, pero si todas apuestan por esa decisión racional, producen el peor resultado posible: una carrera en la que los controles y la seguridad llegan siempre tarde. RAND lo ha modelizado explícitamente: mientras el beneficio percibido de ser el primero supere al riesgo percibido, acelerar seguirá siendo el equilibrio, incluso aunque todos, individualmente, prefiriesen la opción de una carrera intrínsecamente más segura.

Anthropic es la demostración empírica perfecta: en febrero eliminó de sus políticas de seguridad la cláusula de no entrenar modelos sin suficientes mitigaciones, y su responsable lo explicó fríamente afirmando que una promesa unilateral no tenía sentido si los competidores seguían acelerando. En junio, la compañía afirmó que la pausa sería deseable, pero sólo si incluía a los demás laboratorios y si se podía verificar que nadie la aprovechaba para adelantarse. Están describiendo exactamente el incentivo para abandonar un posible acuerdo.

La carrera, además, funciona exactamente igual para compañías y para países en su conjunto: retrasar un lanzamiento para hacer más pruebas puede hacer que pierdas mercado frente a competidores menos prudentes que tú, y los gobiernos tienen esa misma presión si creen que otros países no adoptarán protecciones similares. Una carrera hacia abajo, pero en dos pisos: en uno, OpenAI contra Anthropic, Google, xAI o los laboratorios chinos. En el otro, los Estados Unidos, China, Reino Unido y Europa compitiendo por no depender tecnológicamente del vencedor. Simplemente demencial.

El caso del Reino Unido es especialmente ilustrativo: su gobierno acaba de rechazar imponer un kill switch obligatorio para modelos de inteligencia artificial potencialmente peligrosos, porque impedir el acceso dentro del país no evitaría que esos modelos fuesen desarrollados o utilizados en otros países. Conviene que distingamos una pausa en el desarrollo de un kill switch, pero en la práctica, estamos ante las mismas razones, las mismas premisas, y el mismo peligro. Al final, que el propio gobierno rechace forzar a las compañías a otorgar al mismo gobierno facultades de emergencia para ordenar la desconexión de sistemas o centros de datos bajo jurisdicción británica no deja de ser algo un poco contraintuitivo.

Los informes actuales afirman que los modelos actuales aún no tienen las capacidades necesarias para provocar una pérdida de control irreversible, y muchos expertos discrepan con la distribución de probabilidad de un evento así. Pero por otro lado, identifican progresos en autonomía, en capacidad de engaño, en consciencia situacional, en evasión de la supervisión y en la posibilidad de que obtengan autorreplicación, y admiten posibles escenarios que podrían llevar a un escenario de extinción. Básicamente, un riesgo incierto, y unas consecuencias potencialmente absolutas.

¿Cómo se sale de esto? La salida no está en pedir a los directivos y a las empresas que tengan mejores sentimientos, sino en cambiar los incentivos. Necesitamos urgentemente umbrales obligatorios basados en capacidades, organismos y sistemas de evaluación independientes, acceso de las autoridades a los modelos, estándares de notificación de incidentes, controles sobre los grandes entrenamientos y mecanismos internacionales de verificación, en la línea del Seoul Summit de 2024, pero no voluntarios, sino sujetos a reglas claras y a compromisos exigibles. Además, en muchos casos, una simple declaración o un reconocimiento posterior de un incidente de seguridad puede simplemente no servir para nada: necesitamos salvaguardas, supervisión en tiempo real y planes de respuesta. La verificación es susceptible de cambiar el juego al reducir la posibilidad de que cooperar con las restricciones o las pausas signifique convertirse en el más tonto de la carrera.

Sinceramente, esto parece el argumento de una película, pero con un toque muy inquietante: el malo no es una máquina superinteligente que decide eliminar a la raza humana, sino un sistema de incentivos perfectamente humano que literalmente obliga a personas, compañías y hasta gobiernos a seguir con una carrera que ellos mismos describen como potencialmente terminal. Todos quieren frenar, todos ven el precipicio, pero todos mantienen el pie en el acelerador porque temen que el de al lado no haga lo mismo. Y así, por una lógica individualmente racional y colectivamente demencial, seguimos acercándonos a un final que nadie desea, pero que nadie parece dispuesto a impedir por sí solo.

In English on Medium, «In the AI race, everyone knows the danger, but nobody is prepared to slow down»

El pasado 9 de septiembre, el Bulletin of the Atomic Scientists publicó mi artículo «Three reasons Europe learned to distrust Big Tech before America did«, dentro de un número especial dedicado a analizar qué salió mal con internet y qué podemos hacer para intentar arreglarlo.

El artículo nació de una propuesta de Daniel —Dan— Drollette Jr., editor ejecutivo del Bulletin, que me contactó después de leer algunos de mis textos en Medium. Su pregunta partía de una observación muy frecuente en Estados Unidos: ¿por qué los europeos parecen mucho más preocupados que los norteamericanos por la privacidad, la vigilancia y el poder de las grandes tecnológicas? ¿Es simplemente tecnofobia, burocracia o aversión al riesgo, como tantos comentaristas americanos afirman sin demasiado esfuerzo analítico, o hay razones históricas y estructurales bastante más profundas?

Publicar en el Bulletin of the Atomic Scientists es para mí un honor especialmente significativo. La revista fue fundada en diciembre de 1945 por científicos e ingenieros que habían participado en el Proyecto Manhattan y que, tras Hiroshima y Nagasaki, decidieron dedicar sus esfuerzos a advertir a la sociedad de los riesgos que la propia humanidad había creado. Albert Einstein impulsó su Board of Sponsors, J. Robert Oppenheimer fue su primer presidente y, a lo largo de su historia, cuarenta premios Nobel han formado parte de él. Es también la institución responsable del célebre Reloj del Juicio Final, quizás el símbolo más reconocible del riesgo existencial, y hoy extiende su análisis desde las armas nucleares hasta el cambio climático, la bioseguridad y las tecnologías disruptivas, incluyendo la inteligencia artificial.

Con alrededor de 600,000 lectores mensuales, entre los que hay científicos, responsables políticos, periodistas, profesores y estudiantes, el Bulletin ocupa un espacio muy poco frecuente: el que nace cuando el rigor científico se combina con la voluntad explícita de intervenir en el debate público. En este número comparto páginas, entre otros, con Vint Cerf y Cory Doctorow. Si eso no da una idea del nivel de la publicación, no sé qué puede darlo.

Mi respuesta a la pregunta de Drollette se articula en torno a tres razones. La primera es la memoria histórica: el nazismo, el régimen de Vichy y la Stasi demostraron a los europeos que los datos personales, cuando se concentran en manos de instituciones poderosas y sin control, pueden convertirse en un instrumento de persecución. La privacidad, desde esa perspectiva, no es una manía ni un capricho regulatorio: es una defensa aprendida a un coste espantosamente alto.

La segunda razón es económica y política: Europa no tiene equivalentes propios de Google, Meta, Amazon, Apple o Microsoft que proteger, y eso le permite ver con bastante más claridad la enorme asimetría que supone que empresas extranjeras extraigan datos y valor de cientos de millones de ciudadanos europeos sin someterse de verdad a ningún control democrático efectivo.

La tercera razón es filosófica: mientras Estados Unidos tiende a tratar los datos como una propiedad que podemos ceder mediante un contrato, Europa los entiende como una extensión de la persona, algo que no puede transferirse completamente con un clic en «I agree», especialmente cuando no existe ninguna alternativa real.

Europa no ha arreglado internet, y sus regulaciones están muy lejos de ser perfectas. Pero diagnosticó antes el problema: no se trata de desconfiar de la tecnología, sino del poder sin responsabilidad que la tecnología permite acumular. Europa tenía razón al preocuparse. La cuestión ahora es cuánto tardarán los demás en evolucionar y madurar lo suficiente como para entender por qué.

In English on Medium, «Europe doesn’t hate Big Tech, it just has a long memory»

Jacob Coxon, investigador que trabajó en el entrenamiento de modelos en OpenAI y en Anthropic, presenta su dimisión y afirma en X que ambas compañías están «avanzando a toda velocidad hacia una superinteligencia capaz de automejorarse». Dos personas de Anthropic, Evan Hubinger y Samuel Marks, lo refrendan públicamente asignando una probabilidad de un 10% a que la inteligencia artificial acabe con la humanidad en los próximos diez años, y afirmando que internamente, los investigadores más senior están aún más preocupados.

Cuando Geoffrey Hinton abandonó Google en 2023 tras manifestarse abiertamente sobre los peligros de la tecnología, muchos lo ridiculizaron o, como fue mi caso, afirmamos que, si bien podía ser así, eso era algo imposible de detener dada la configuración de intereses y las dinámicas competitivas de la propia humanidad. En diciembre de 2024, Hinton revisó sus predicciones y otorgó entre un 10% y un 20% a la posibilidad de que la inteligencia artificial provocase la extinción de la humanidad en treinta años. Ahora no es sólo Hinton: los investigadores y las personas que trabajan directamente en la mejora de los últimos modelos de inteligencia artificial están enormemente preocupados al ver sus capacidades, la posibilidad de que se vuelvan más inteligentes que los humanos, y que terminen por tomar decisiones autónomas.

Ya hemos visto lo que la inteligencia artificial es capaz de hacer cuando se descuidan unas mínimas precauciones, y hemos visto también lo que NO ha pasado después: ningún tipo de freno, de regulación o de imposición a esas compañías irresponsables que pudiese frenar de alguna manera el peligro. Simplemente NA-DA (no vaya a ser que pongamos en peligro el avance de la tecnología, o la ventaja competitiva del país, o la seguridad nacional, o qué sé yo).

Cuando la inteligencia artificial pasa a construirse a sí misma, superamos los puntos de control que teníamos como humanos, y pasamos a ser simples espectadores con un patético enchufe en la mano, pensando que «basta con desenchufarlo». Anthropic afirma que esto no ha pasado todavía y que no es inevitable, pero también avisa de que podría llegar mucho antes de que las instituciones estén preparadas para ello. Repetimos: una vez que la inteligencia artificial es capaz de mejorar recursivamente los sistemas que llevan a cabo la investigación para la inteligencia artificial, el progreso de sus capacidades deja de tener lugar a una velocidad controlable por los humanos o por sus políticas.

No es cuestión de Skynets ni de Terminators que vienen del futuro. Las hipótesis creíbles son, en realidad, mucho más prosaicas: ciberataques automatizados contra infraestructuras críticas, asistencia en el desarrollo de armas biológicas, manipulación estratégica de los humanos, adquisición y replicación de recursos, o simplemente, una pérdida de poder paulatina de los seres humanos. El concepto crucial no es el odio ni la conciencia, sino la simple convergencia instrumental: un sistema lo suficientemente capaz puede descubrir que obtener acceso, ocultar sus intenciones o evitar su desactivación le ayuda a cumplir cualquier objetivo que se le haya asignado. Los estudios de laboratorio ya indican que los modelos más capaces pueden idear estrategias más sofisticadas y reconocer cuándo están siendo evaluados, aunque aún no sepamos cómo trasladar esos experimentos a verdaderos riesgos en el mundo real. Pero están ya ahí.

¿Hay forma de parar esto? No como imposibilidad física, pero sí como trampa de coordinación o dilema del prisionero: como dije en su momento, nadie va a hacerlo. Anthropic puede pensar que ralentizar o pausar el desarrollo sería racional, pero teme a OpenAI, y OpenAI a su vez tiene miedo de Anthropic, de Google y de China. Al tiempo, los gobiernos temen perder liderazgo económico y militar, y consecuentemente, cada participante puede pensar que el resultado es potencialmente muy peligroso, pero considerar una parada unilateral como un suicidio.

Sí, tenemos mecanismos de actuación concretos: monitorización de la actividad de las compañías, políticas agresivas de licenciamiento, reporte de incidentes obligatorio, evaluaciones independientes, límites a la capacidad de los modelos o verificación internacional de las pausas. Hay iniciativas en los Estados Unidos, como la FRONTIER Act proposal o la propuesta más radical de Bernie Sanders y Greg Casar para pausar la inteligencia artificial avanzada y prohibir la superinteligencia, o en el Reino Unido con una propuesta de ley para prohibir la superinteligencia artificial aún pendiente de tramitación parlamentaria, pero la conclusión parece clara: aunque tengamos frenos, no tenemos ningún conductor dispuesto a pisarlos globalmente. Y mientras tanto, el coche está acelerando.

Buena suerte.

In English on Medium, «Was anybody listening when Geoffrey Hinton warned us about AI? Seems not»

El pasado día 1 de septiembre, el Departamento de Justicia de los Estados Unidos presentó ante el tribunal un escrito en apoyo de la posición de OpenAI en la defensa de la demanda que le ha sido planteada por parte de medios como el New York Times y otros, en la que afirma que el entrenamiento de modelos de inteligencia artificial es, según ellos, una actividad «altamente transformadora», y que por tanto, justifica el robo de propiedad intelectual de terceros porque esa actividad plantea «grandes beneficios para el público que compensan el posible daño a los titulares de esos derechos», porque restringir esa actividad plantearía «un daño a la innovación norteamericana» y «un problema para la seguridad nacional».

Una semana después, la NSA, el FBI y CISA han publicado otra nota en la que describen «la destilación sistemática de modelos de compañías estadounidenses por parte de compañías chinas» como «una amenaza para la economía y la seguridad nacional» que reduce los costes de desarrollo para esas compañías chinas y debilita el liderazgo tecnológico estadounidense.

Sinceramente, es la mayor colección de asquerosa y maloliente basura que he visto en muchas décadas. La evidente conclusión de estas dos notas es que la apropiación sin permiso de ningún tipo de la propiedad de terceros es socialmente beneficiosa cuando la hacen compañías estadounidenses y sirve para mejorar un modelo estadounidense, pero es terrible, inmoral y profundamente maliciosa cuando se hace para mejorar un modelo chino. Alucinante no, directamente alucinógeno. Como dice el refrán español, «quien roba a un ladrón, tiene cien años de perdón».

Pongamos las cosas en su sitio: en primer lugar, la destilación de modelos como tal no es ninguna invención siniestra de los chinos: es una técnica de machine learning perfectamente establecida y formalizada como tal desde el paper que en 2015 publicaron Hinton, Vinyals y Dean, «Distilling the knowledge in a neural network«. La propia nota federal admite, porque no queda otra, que la destilación es «una técnica legítima y útil». Pero para hacer la cosa todavía más interesante, la propia OpenAI trata la destilación como un producto que vende, y explica cómo las salidas producidas por un modelo potente pueden ser utilizadas para entrenar un modelo más barato. Por tanto, el «problema» no es con la destilación en sí misma, sino en quién destila, qué destila, a qué escala y con permiso de quién. Aparentemente, cuando OpenAI destila un modelo construido con información robada a todos nosotros, es innovación, pero cuando lo hace DeepSeek, es una cibercampaña maléfica que debe ser detenida a toda costa. Lo dicho: pura y vergonzante basura.

Para ser exactos con las alegaciones de las agencias de seguridad estadounidenses, lo que hacen exactamente es nombrar a una serie de compañías chinas (DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun y Z.AI), y afirmar que han obtenido miles de millones de tokens a través de millones de peticiones y que, usando cuentas falsas, suscripciones compartidas, proxies y «estaciones de transferencia» han podido, supuestamente, saltarse las restricciones geográficas. De hecho, utilizan términos como “malicioso”, “acceso no autorizado”, “evasión” o “infracción de los términos de servicio” para describir esas prácticas. CyberScoop llega a calificarlas como “ilegales”, aunque esa palabra no aparece en la nota federal. Pero claro, hay un problema: que «violar los términos de servicio de OpenAI» no es para nada un sinónimo de «robar propiedad intelectual de la humanidad en su conjunto».

La propia OpenAI dijo al Parlamento británico que «habría sido imposible entrenar los modelos actuales de inteligencia artificial sin utilizar materiales con propiedad intelectual«. Anthropic, por su parte, descargó más de siete millones de libros de fuentes irregulares como sitios de torrents, lo que llevó al juez William Alsup a afirmar que por muy transformadora que pueda ser la actividad, todo tiene un límite, que obtener los libros de esas fuentes supone una infracción de los derechos de autor, sí o sí, lo que terminó dando lugar a un acuerdo de 1,500 millones de dólares, posteriormente aprobado por el tribunal, para compensar a los titulares de los derechos de más de 482,000 libros. Meta está en el mismo caso: Zuckerberg aprobó el uso de LibGen, a pesar de saber perfectamente de dónde venían esos libros. Las compañías discográficas, en su demanda contra Suno, también han alegado infracciones y copias masivas de obras sometidas a derechos de autor. Es decir, existe ya una combinación abrumadora de hechos probados, acuerdos judiciales, documentos internos y alegaciones fundadas que muestra hasta qué punto esta industria se construyó mediante la ingestión masiva de libros, canciones, noticias, imágenes y textos sin permiso ni compensación. Y la voracidad extractiva, lejos de haber desaparecido, continúa: lo siguen haciendo, sistemáticamente, día sí y día también.

¿Qué dice al respecto la Oficina del Copyright de los Estados Unidos? Que está muy claro, y que si bien algunos usos pueden ser considerados altamente transformadores, el uso comercial de enormes colecciones para producir contenidos potencialmente competitivos, cuando encima esos contenidos han sido obtenidos de forma abiertamente ilegal, excede claramente los límites de cualquier uso legítimo. La conducta de las compañías norteamericanas, por tanto, sigue estando legalmente en disputa y, en algunos casos, ha violado claramente la ley.

El argumento filosófico que se me plantea de manera creo que absolutamente lógica es el de la reciprocidad, no el de que «dos errores hacen un acierto»: que sí, que a lo mejor las compañías chinas han utilizado cuentas falsas y han violado términos de servicio, pero eso en absoluto consigue de ninguna manera restaurar la moralidad de las compañías estadounidenses, se pongan como se pongan sus autoridades. Si robar las creaciones de millones de autores sin permiso alguno es supuestamente legítimo porque es una actividad transformadora y supuestamente beneficiosa para la humanidad (cosa que ya veremos), entonces usar las salidas de un modelo para entrenar a otro no puede, de ninguna manera, ser un «sacrilegio» simplemente porque quienes lo hacen son chinos. Es simplemente absurdo. O al revés: si lo que se discute es que lo han hecho sin permiso y sin compensación, entonces las compañías estadounidenses tendrán que compensar a todos aquellos cuya información fue utilizada sin contraprestación ni permiso alguno.

No sé si el hecho de que las compañías de inteligencia artificial hayan robado sin permiso alguno la información de la humanidad justifica o no que los modelos que han creado deban pertenecer directamente «a todos». Suena retóricamente atractivo y yo soy de los que adorarían una solución así, pero ni soy legalmente competente como para intentar justificarla, ni sería jamás aprobado por quienes aprueban estas cosas. Desarrollar modelos no sólo implica obtener información, sino también mucha ingeniería, curación de contenidos, computación, evaluación e implementación, y todas esas cosas cuestan dinero y es legítimo, si se quiere, hacerlo bajo un modelo propietario. Pero lo que sí sé es que compañías que han legitimado socializar el coste de su componente principal y esencial, la información, no pueden de ninguna manera reclamar un supuesto derecho moral ilimitado a privatizar cada una de las capacidades resultantes de sus modelos. Eso no funciona ni puede funcionar así. Si declararon la totalidad de la cultura humana como un procomún accesible por ellos cuando necesitaron materia prima para sus modelos, no pueden ahora «redescubrir» la propiedad intelectual en el momento en que alguien trata sus modelos como una materia prima. Sea chino, europeo, estadounidense o de donde sea.

In English on Medium, «Why is it that when US companies steal it’s innovation, but when China does, it’s theft?»