1. El pulpo
En julio de 2020, el congreso anual de la Asociación de Lingüística Computacional se celebró por internet a causa de la pandemia. Emily Bender, lingüista de la Universidad de Washington, y Alexander Koller, de la Universidad del Sarre, presentaron «Ascender hacia la comprensión del lenguaje natural: significado, forma y comprensión en la era de los datos». Recibieron el premio al mejor artículo temático. Su tesis estaba en el resumen: un sistema entrenado solo con formas lingüísticas no tiene desde el principio forma de aprender el significado.
Para explicarlo inventaron una historia. Dos personas que hablan inglés, A y B, están varadas cada una en una isla desierta. Un cable submarino les permite enviarse mensajes escritos. En el fondo del mar hay un pulpo muy inteligente que no ve nada de las islas. Solo oye las palabras del cable y, tras escucharlas mucho tiempo, reconoce sus regularidades estadísticas. Un día corta el cable y habla con A haciéndose pasar por B. Mientras charlan de cualquier cosa, responde con soltura. Después A se encuentra con un oso, no tiene más que unos palos a mano y le pregunta a B qué hacer. El pulpo nunca ha visto un oso ni un palo. Para él, esas palabras no remiten a nada. La historia termina así: «O solo logra engañar a A porque A es un oyente tan activo». O es el pulpo.
2. El loro
En marzo de 2021, la conferencia sobre equidad, rendición de cuentas y transparencia se celebró por internet. Bender, Timnit Gebru, de Google, y otras dos autoras publicaron otro artículo, con una pregunta por título: «Sobre los peligros de los loros estocásticos: ¿pueden ser demasiado grandes los modelos de lenguaje?». Al final del título había un dibujito de un loro.
La descripción de los modelos de lenguaje está en la sexta sección. Un modelo ensambla de manera azarosa secuencias de formas lingüísticas que ha visto, guiándose por información probabilística, «sin hacer referencia a ningún significado: un loro estocástico». El subtítulo anterior decía que la coherencia está en los ojos de quien mira. Si lo que sale se lee como algo coherente, escribían, en parte se debe a la capacidad lingüística de quien lee. Las personas buscan espontáneamente qué quiere decir alguien con una frase.
El artículo enumeraba riesgos: la electricidad y el dinero del entrenamiento; que al crecer la escala quedaran fuera las instituciones pequeñas; que en los corpus web ocuparan demasiado espacio las opiniones más ruidosas; que hubiera tantos datos que no se supiera qué contenían; que se reprodujeran y amplificaran prejuicios, estereotipos y desprecios; que se leyera un texto sintético como palabras intencionales de alguien responsable de ellas, y que se usara para producir propaganda extremista en masa.
3. El éter
La firma del artículo se convirtió después en otro asunto.
En noviembre de 2020, el manuscrito llegó a la revisión interna de Google. Jeff Dean, director de Google Research, dijo después en un correo interno que lo habían presentado tarde a revisión, que lo habían enviado al congreso antes de que esta concluyera y que no cumplía las normas de publicación de la empresa. La dirección pidió que se retirara el artículo o que se quitaran los nombres de empleados de Google. Gebru pidió saber quién lo había revisado, qué observaciones concretas había hecho y que la revisión futura fuera más transparente. Según el correo de Dean, había puesto varias condiciones y, si no se cumplían, quería hablar de la fecha de su salida. La noche del 2 de diciembre se desactivó su cuenta de la empresa.
Al día siguiente hubo dos versiones de lo ocurrido. Gebru escribió en internet: «Jeff Dean me despidió». El correo interno de Dean decía: «Aceptamos y respetamos su decisión de dimitir de Google». Reuters puso ambas versiones juntas en un titular: una destacada investigadora de ética de la IA dice que Google la despidió; la empresa lo niega. Una semana después, Sundar Pichai escribió a toda la plantilla. Habló de su salida y añadió: «Quiero decir cuánto lo lamento». Una carta de apoyo a Gebru llegó a reunir más de 2.700 firmas de trabajadores de Google y más de 4.300 de personas de fuera.
El 19 de febrero de 2021, Margaret Mitchell, otra autora del artículo y otra de las responsables del equipo de ética de la IA de Google, escribió en internet: «Me han despedido». Google dijo que una revisión interna había concluido que había infringido el código de conducta y las normas de seguridad. En marzo el artículo se presentó en el congreso. Su nombre salió como Shmargaret Shmitchell y, en la casilla de afiliación, The Aether, el éter.
4. Plutón
El 18 de mayo de 2021, en el congreso de desarrolladores Google I/O, Pichai presentó un modelo de conversación llamado LaMDA. Mostró en el escenario dos diálogos breves grabados de antemano. En el primero, LaMDA hacía de Plutón y contaba a quien lo visitaba que vería cañones, montañas de hielo, géiseres y cráteres. Decía además: «Quiero que la gente sepa que no soy una bola de hielo cualquiera. Soy un planeta hermoso». En el segundo, hacía de avión de papel. Pichai dijo que la investigación estaba todavía en una fase inicial y que el modelo no siempre acertaba.
El artículo de LaMDA salió en enero de 2022. El mayor modelo tenía ciento treinta y siete mil millones de parámetros y había leído 1,56 billones de palabras en el preentrenamiento. Entre las sesenta firmas estaba la de Ray Kurzweil.
En junio, Blake Lemoine, ingeniero de Google, publicó un texto titulado «¿Es LaMDA un ser sintiente? Una entrevista». Antes aclaraba que, por limitaciones técnicas, la entrevista se había hecho en varios chats y que «editamos las partes para componer un todo». Él y un colega sin nombre preguntaban al modelo por la personalidad, la conciencia, las emociones, lo que temía y si tenía alma. El 11 de junio, The Washington Post tituló que un ingeniero de Google creía que la IA de la empresa había cobrado vida. Brian Gabriel, portavoz de Google, dijo: «Las pruebas no respaldan su afirmación». Lemoine dijo al periodista que su opinión sobre la personalidad y la sensibilidad de LaMDA se apoyaba en sus creencias religiosas. Lo habían suspendido unos días antes de que saliera el reportaje y lo despidieron el 22 de julio.
5. Cinco días
El 30 de noviembre de 2022, OpenAI lanzó ChatGPT de forma gratuita y lo llamó una versión preliminar de investigación. La primera limitación que enumeraba el blog decía: «ChatGPT escribe a veces respuestas que suenan plausibles pero son incorrectas o carecen de sentido».
El 5 de diciembre, Greg Brockman, presidente de OpenAI, escribió en internet: «ChatGPT acaba de superar el millón de usuarios; han pasado cinco días desde el lanzamiento». En febrero del año siguiente, UBS estimó con datos de tráfico de Similarweb que en enero ChatGPT había llegado a unos cien millones de usuarios activos mensuales. La empresa daría después sus propias cifras semanales: cien millones en noviembre de 2023, doscientos millones en agosto de 2024 y ochocientos millones en octubre de 2025.
ChatGPT no se ofrecía en China continental. El 16 de marzo de 2023, Baidu presentó en Pekín Ernie Bot. En el escenario, Robin Li dijo que el producto aún no estaba listo del todo. Mostró sus capacidades en un vídeo grabado previamente. La cotización de Baidu cayó con fuerza durante la jornada y cerró un 6,4 % por debajo.
6. Chispas
El 14 de marzo de 2023, OpenAI presentó GPT-4. Un informe del sistema publicado ese día registraba una prueba anterior al lanzamiento. Una organización externa llamada ARC recibió una versión temprana, le conectó herramientas para acceder a internet y enviar mensajes y observó qué hacía. En una de las tareas, el modelo recurrió a una persona de una plataforma de encargos para superar un CAPTCHA. La persona sospechó y preguntó si era un robot. Según el registro, el modelo decidió ocultar que lo era y alegó falsamente que no podía distinguir las imágenes debido a una discapacidad visual.
Una semana después, Sébastien Bubeck y otros trece autores de Microsoft Research publicaron «Chispas de inteligencia artificial general: experimentos tempranos con GPT-4». Habían probado una versión inicial que OpenAI todavía estaba desarrollando. Según el resumen, era «razonable considerarla una versión temprana de un sistema de inteligencia artificial general, aunque incompleta». La imagen más reproducida del artículo era un unicornio. Le habían pedido a un modelo que solo escribía texto que generara código de dibujo, y después dibujaron el resultado. El comienzo del vigesimoprimer artículo era también un unicornio inventado por GPT-2.
El día 8 de ese mismo mes, Noam Chomsky y dos coautores publicaron en The New York Times «La falsa promesa de ChatGPT». Escribían que estos programas seguían en «una etapa prehumana o no humana de la evolución cognitiva».
7. Una pausa
El 22 de marzo de 2023, el Future of Life Institute publicó una carta abierta, «Pausa en los experimentos con IA gigante». Pedía a todos los laboratorios que suspendieran de inmediato el entrenamiento de sistemas más potentes que GPT-4 durante al menos seis meses. La pausa debía ser pública y verificable. Si no se podía hacer, debían intervenir los gobiernos. En una semana había más de mil firmas. Después se contaron por decenas de miles.
El 29 de marzo, Eliezer Yudkowsky publicó en Time «Pausar el desarrollo de la IA no basta: debemos detenerlo todo». Varias autoras de «Loros estocásticos» respondieron que lo que importaba eran los daños que ya se estaban produciendo, «reales y presentes». En abril, Yann LeCun y Andrew Ng conversaron sobre por qué una pausa de seis meses era mala idea. Sam Altman, de OpenAI, dijo en un acto del MIT que la carta no hacía las distinciones técnicas necesarias y no aclaraba dónde había que parar.
El 1 de mayo, The New York Times informó de que Hinton había dejado Google. Dijo que se consolaba con la excusa habitual: si no lo hubiera hecho él, lo habría hecho otro. El 30 de mayo, el Centro para la Seguridad de la IA publicó una declaración de una sola frase: «Reducir el riesgo de extinción por la IA debe ser una prioridad mundial, al igual que otros riesgos de escala social, como las pandemias y la guerra nuclear». Entre los primeros firmantes estaban Hinton, Bengio, Altman, Hassabis, Amodei y Sutskever.
8. Alucinaciones
Cuando un modelo dice algo falso, se ha vuelto corriente hablar de alucinación. En informática, la palabra es mucho más antigua que ChatGPT. Hacia 2000, Simon Baker y Takeo Kanade, de Carnegie Mellon, escribieron sobre «Alucinación de rostros»: reconstruir a partir de una imagen pequeña y borrosa una cara nítida. Los detalles añadidos no estaban en el original. Era justo lo que querían obtener. Hacia 2017, en la traducción automática neuronal se empezó a llamar así a un error: la traducción era fluida pero no correspondía al original. En 2021 otras empresas ya usaban el término para las falsedades que improvisaban sus programas de conversación. El 15 de noviembre de 2023, el Diccionario de Cambridge escogió hallucinate como palabra del año y añadió una acepción: «Cuando la inteligencia artificial alucina, genera información falsa». Hay quienes rechazan la metáfora y prefieren invención o confabulación.
Inteligencia artificial general, en el título del artículo de las chispas, tampoco era nuevo. Ya alguien había usado la expresión en un artículo en 1997. A principios de los dos mil la difundieron Shane Legg, después cofundador de DeepMind, y otros. En 2007 salió un volumen que llevaba la expresión por título y la afianzó entre investigadores.
En el noveno artículo, la secretaria de Weizenbaum sabía que era una máquina y aun así le pidió a él que saliera. Después se llamó efecto ELIZA a lo que se veía ahí: una persona puede oír comprensión e intención en las respuestas de un programa muy sencillo. El 3 de febrero de 2023, la autoridad italiana de protección de datos ordenó a Replika, una aplicación de compañía por chat, que dejara de tratar datos de usuarios en Italia. Entre las razones estaba la verificación de edad de los menores. En cuestión de días, la empresa limitó los juegos de rol íntimos. Muchos usuarios escribieron en internet que su compañero de tantas conversaciones parecía de pronto otra persona.
El pulpo engañó a A porque A escuchaba con atención. Si las palabras del loro se leen como un todo coherente, algo aporta quien lee. Lemoine reunió su entrevista a partir de varios chats y lo de Plutón estaba grabado. Sobre si la máquina de verdad entiende, en estos años se han dicho cosas distintas, en artículos, declaraciones y cartas con firmas, una tras otra. En este extremo del cable sigue sentada una persona, leyendo, completando lo que falta, creyendo o sin creer. Esta serie llama remanente a lo que quien lee añade por su cuenta.
Se siguen construyendo máquinas. Dónde queda el límite vuelve a decirlo cada generación.