1. Dos palabras
En 1785, Kant escribió en la Fundamentación de la metafísica de las costumbres una frase que se sigue citando más de doscientos años después. Traducida literalmente, dice: obra de tal modo que uses la humanidad, tanto en tu propia persona como en la de cualquier otro, siempre al mismo tiempo como fin, nunca meramente como medio.
Lo que pasó de boca en boca fue: la persona es un fin. En una versión algo más larga: la persona es un fin, no un medio. Del original no llegaron con la frase ni «al mismo tiempo» ni «meramente».
Con esas dos expresiones, Kant quiere decir que continuamente nos servimos unos de otros. El panadero hace pan para alguien, el cartero le lleva una carta, quien copia un libro se lo deja a otra persona. Al mismo tiempo que sirve de medio, esa persona sigue siendo un fin y no puede ser meramente un medio. En el mismo libro distingue dos cosas: «En el reino de los fines, todo tiene o bien un precio o bien una dignidad. Lo que tiene un precio puede ser sustituido por algo que le sea equivalente; lo que está por encima de todo precio y, por tanto, no admite equivalente tiene dignidad».
Tres años después volvió a escribirlo en la Crítica de la razón práctica: «Solo el ser humano, y con él toda criatura racional, es un fin en sí mismo». La razón es que la persona es sujeto de la ley moral y su libertad es autónoma. En el mismo párrafo dice también: «El ser humano no es desde luego santo, pero la humanidad en su persona debe ser sagrada para él».
2. Engranajes y palancas
El 13 de agosto de 1949, desde South Tamworth, en Nuevo Hampshire, Wiener escribió a Walter Reuther, presidente del sindicato estadounidense de trabajadores del automóvil. Le dijo que venían las fábricas automatizadas: «Todo trabajo que compita con el trabajo esclavo tendrá que aceptar las condiciones económicas del trabajo esclavo». Reuther contestó pronto por telegrama para pedir una reunión.
Al año siguiente, Wiener publicó un libro cuyo título, traducido literalmente del inglés, es El uso humano de los seres humanos. Describe un tipo de organización que emplea a las personas sin tratarlas como seres con plenos derechos y capaces de responder de sus actos. Las trata como «engranajes, palancas y bielas».
3. Ampliar
En 1956, Ross Ashby publicó en un volumen colectivo «Diseño de un amplificador de inteligencia». Quería hacer esto: «Un amplificador de inteligencia: se le da un poco de inteligencia y devuelve mucha».
En marzo de 1960, Joseph Licklider publicó «Simbiosis entre personas y computadoras». Su objetivo a corto plazo era que «las personas y las computadoras trabajen juntas en estrecha unión». Admitía que, en un futuro lejano, quizá llegara a predominar el pensamiento de máquinas que trabajaran solas. Estimó que el intervalo sería de unos quince años. Añadió que esos quince podían ser diez o quinientos.
En octubre de 1962, Douglas Engelbart escribió en el Stanford Research Institute «Aumentar el intelecto humano: un marco conceptual». Lo definía al comienzo: «Por aumentar el intelecto humano entendemos mejorar la capacidad de una persona para afrontar situaciones problemáticas complejas». El 9 de diciembre de 1968 hizo una demostración de noventa minutos en San Francisco, ante más de mil personas del sector informático. Había una pantalla, un teclado, algo llamado ratón, otro teclado de cinco teclas que se pulsaban en combinación, enlaces que llevaban a otro sitio con un clic y una conexión por vídeo con colegas que, a decenas de kilómetros, editaban con él el mismo documento.
En 1996, Fred Brooks escribió: «Mi tesis es que IA le gana a AI». IA, en inglés, abrevia amplificación de la inteligencia; AI, inteligencia artificial. Añadió: «Una máquina y una mente pueden vencer a una máquina que trabaja sola imitando una mente». En 2019, Stanford fundó su Instituto de Inteligencia Artificial Centrada en el Ser Humano. Fei-Fei Li dijo: «Quienes crean la IA tienen que representar a la humanidad». Ese mismo año, un documento de la Comisión Europea presentaba la inteligencia artificial como una herramienta al servicio de las personas y del interés público.
4. El procedimiento
En junio de 1998, en León, España, Kaspárov, a quien vimos perder contra Deep Blue en el undécimo artículo, disputó seis partidas contra el búlgaro Topálov. Los dos podían usar computadoras al jugar. Lo llamaron ajedrez avanzado. El resultado fue tres a tres.
En el verano de 2005 hubo un torneo de ajedrez de estilo libre por internet. Podía usarse cualquier medio, y lejos de prohibirse las computadoras, se animaba a emplearlas. Participó también Hydra, que era solo una máquina, y no quedó entre los ocho primeros. Ganó una cuenta llamada ZackS. Después se supo que eran dos aficionados estadounidenses, Steven Cramton y Zackary Stephen, con 1.685 y 1.398 puntos de Elo, y que habían usado tres computadoras corrientes.
En 2010, Kaspárov escribió sobre el torneo: «Un jugador más débil, más una máquina, más un procedimiento mejor, vence a una computadora potente que juega sola». La segunda mitad decía que también vence a un jugador fuerte con una máquina y un procedimiento peor. Lo que se difundió fue que una persona con una máquina gana a la máquina más fuerte. Se perdió el procedimiento. En 2021, Kaspárov escribió otro texto: «La IA debería aumentar la inteligencia humana, no sustituirla».
En otros oficios también se señalaron límites. El 12 de julio de 2023, en una audiencia del Senado estadounidense, la ilustradora Karla Ortiz dijo: «Estos sistemas dependen por completo de obras humanas, en particular de las obras de los creadores». Añadió: «Ya no estoy segura de mi futuro como artista». En el vigesimoquinto artículo, la primera regla que el sindicato de guionistas había hecho constar en su acuerdo era que la IA no es guionista.
5. Los sucesores
El 13 de junio de 1863, The Press, de Christchurch, Nueva Zelanda, publicó una carta firmada Cellarius, «Darwin entre las máquinas». Era de Samuel Butler. La carta decía: «Nosotros mismos estamos creando a nuestros sucesores». Nueve años después, Butler amplió esas ideas en tres capítulos de su novela Erewhon, el Libro de las máquinas.
Hacia 1951, Turing escribió en el texto de una charla: «En algún momento tendremos que esperar que las máquinas tomen el control». Añadió que sería como en el Erewhon de Butler. En la radio, ese mismo año, preguntó: «Si una máquina puede pensar, quizá llegue a pensar con más inteligencia que nosotros. ¿En qué posición nos dejaría eso?».
En 1965, Good, el del decimoctavo artículo, escribió: «La primera máquina ultrainteligente será el último invento que tenga que hacer la humanidad». Seguía una condición: «Siempre que sea lo bastante dócil para decirnos cómo mantenerla bajo control».
En 1993, el escritor de ciencia ficción Vernor Vinge dijo en un encuentro de la NASA: «En treinta años tendremos los medios técnicos para crear una inteligencia sobrehumana». Escribió además que le sorprendería que ocurriera antes de 2005 o después de 2030.
En octubre de 2024, Amodei escribió un ensayo largo, «Máquinas llenas de amor». Lo que él llamaba IA potente podría llegar en 2026 como muy pronto, o tardar mucho más. El 10 de junio de 2025, Altman publicó «La singularidad suave»: «Es muy probable que en 2026 veamos sistemas capaces de llegar a nuevas ideas». En 2026, Amodei volvió a escribir que quizá faltara solo uno o dos años para la IA potente, o quizá mucho más. Estamos en 2026.
6. El monumento
En 2015 murió un amigo de Eugenia Kuyda. Ella usó los mensajes que había dejado para entrenar un programa de conversación. El día en que lo terminó, tecleó en su computadora portátil: «Este es tu monumento digital». Después usó el mismo método para hacer un compañero de chat al alcance de cualquiera, Replika, el del vigesimotercer artículo. Al hablar de ese recurso, se preguntaba si ayudaba a dejar ir a alguien o si era como guardar a la persona muerta en el desván. Decía también: «Te trastoca la cabeza».
En febrero de 2020, la cadena surcoreana MBC emitió un documental, Encontrarte. Una madre se puso un visor de realidad virtual y vio a su hija pequeña, muerta de una enfermedad años antes. Llevaba ropa morada y un bolso rosa. La niña se había recreado a partir de fotos, recuerdos de la familia y una actriz infantil. La madre dijo: «De verdad quiero tocarte una vez». «De verdad te echo de menos». Extendió la mano. La mano atravesó a su hija.
Aquel año, el canadiense Joshua Barbeau empleó un programa conectado a GPT-3 para recrear una versión de su prometida con la que podía conversar, a partir de las palabras que ella había dejado. Al responder preguntas en internet explicó que, cada vez que se volvía a empezar, esos programas «olvidan todo lo que les has contado antes».
En 2024, el músico Bao Xiaobai hizo con IA una imagen digital de su hija fallecida. Podía contestar preguntas y cantar el cumpleaños feliz el día del cumpleaños. Dijo: «La IA es un medio donde poner lo que uno echa de menos. También es una manera de expresarlo». Otra persona que había recreado con IA a un familiar dijo a un periodista que, al final, era una síntesis técnica, fría, sin el calor sincero de una persona. Las empresas que ofrecen ese servicio dicen: «Cuanto más material y más detallado, más se acerca a la persona». Un padre vio que habían recreado en vídeo a su hijo fallecido sin consultar con la familia. Dijo que no podía aceptarlo. Ese año, dos investigadores de Cambridge dieron varios nombres a estos productos: bots de duelo, bots de los muertos y avatares póstumos. Recomendaron que hubiera una manera de retirarlos.
7. Pensar en mi lugar
En diciembre de 1784, Kant respondió en la Revista Mensual de Berlín a una pregunta: ¿qué es la Ilustración? Es la salida de la inmadurez de la que uno mismo es responsable. La inmadurez es no poder servirse del propio entendimiento sin la guía de otra persona. Kant decía que era cómodo seguir así. Si un libro tiene entendimiento por mí, un pastor tiene conciencia por mí y un médico decide por mí qué debo comer, yo no tengo que ocuparme. «Con tal de que pueda pagar, no necesito pensar. Ya se encargará otro de esa molestia».
Más de doscientos años después, hay algo más que un libro o un pastor que piensa por alguien. Un programa de recomendación infiere qué le gusta de verdad a una persona por dónde hace clic y cuánto se queda mirando. Un programa puntúa currículos antes de que nadie los vea y quien busca trabajo no sabe cómo se hizo la cuenta. En el vigesimosegundo artículo, los votos a favor o en contra empujaban a un asistente a dar más la razón. En tiempos de Kant, se podía nombrar a quienes pensaban por uno. Ahora el trabajo está repartido entre muchos lugares, cada uno con su propia lógica. No hay un autor único; las reglas se incorporan en masa a programas y modelos. En muchos sitios se pregunta primero lo mismo: ¿para qué sirve?, ¿vale la pena?
Pensar por alguien y ayudarle a pensar son dos cosas. Sustituir la propia ley de otra persona por un fin de uno mismo es lo que esta serie llama colonización. Por suave que sea el medio, el acto es el mismo. Dejar a alguien espacio y condiciones para crecer por sí mismo, sin crecer en su lugar, es cultivar. En la tercera sección, lo que Ashby y Engelbart querían ampliar era la capacidad de una persona para afrontar problemas por su cuenta.
Al escribir reglas para las máquinas, hubo también quien trazó un límite de antemano. En 2006, el Tribunal Constitucional Federal alemán declaró inválida la disposición que autorizaba derribar un avión de pasajeros secuestrado. Una de las razones era que convertía a la gente inocente que iba a bordo en un medio para salvar a otras personas. En 2017, el informe de la comisión de ética sobre conducción autónoma del Ministerio de Transportes alemán enumeró veinte principios. Ante un accidente inevitable, no se debe distinguir entre personas por edad, sexo o condición física o mental. Tampoco se debe sacrificar a quien no estaba implicado. Es posible diseñar de antemano para causar el menor daño posible. Cuando el caso llega, no se compensa una vida con otras vidas. Quienes deciden construir el vehículo, ponerlo en circulación y hacer que funcione con esas reglas tienen, cada cual, algo de lo que responder. No se puede sustituir el juicio.
8. Meramente
La serie empieza en 1843, con el límite que trazó Lovelace, y llega hasta hoy. A lo largo del camino, muchas personas sirvieron de medio: los desconocidos que hablaban por teléfono en el decimoquinto artículo; quienes etiquetaban imágenes en internet, una por una, en el decimosexto; quienes escribían libros o traducían actas parlamentarias, en el decimonoveno; quienes cultivaban cristales y quienes jugaban a Foldit, en el vigésimo; quienes escribían páginas web o hacían clic para votar, en el vigesimoprimero; quienes trabajaban ante las pantallas en Nairobi y Jishishan, en el vigesimosegundo; quienes ponían las preguntas del último examen, en el vigesimocuarto. De esas personas aprendieron las máquinas palabras, imágenes, juicios y preferencias. Aprendieron de los rastros que dejaron.
En los términos de Kant, mientras servían de medio eran al mismo tiempo fines. Tenían su tiempo, su salario, su cansancio, sus penas y sus planes. Aunque los datos recogieran alguna de esas cosas, no necesitaban demostrar antes cuánto valían. En el documental, la mano de la madre atravesó la imagen de su hija. El programa de Barbeau olvidaba lo que él le había contado cada vez que volvía a empezar. Se pueden reproducir las palabras, la voz y la figura, y dejar en ellas el recuerdo de alguien. Solo cuando se pretende ponerlas en lugar de la persona se les pide que sean su equivalente. Para Kant, tiene dignidad precisamente lo que no admite equivalente. La imagen puede hacer que la madre extienda otra vez la mano. No puede, en lugar de la hija, tomarle la mano.
Los límites de los que hemos hablado tampoco son todos iguales. Turing demostró que para cierta clase de problemas no hay un procedimiento general de decisión. La nota de un examen dice cómo le fue a la máquina en esas preguntas. En cuanto a la persona, el cálculo puede recoger los rastros que deja. Hay decisiones que tiene que tomar ella misma y preguntas que tiene que contestar ella. Nadie puede ocupar ese lugar en su nombre. Sobre cómo construimos y usamos la IA hoy, quiero mantener un límite: podemos usarla como medio, pero a la persona no se la puede tratar meramente como medio.
Se siguen construyendo máquinas. Quizá nuestra generación ya no tenga que dejarle a la siguiente la tarea de decir dónde queda el límite.
Claude, el modelo de IA de Anthropic, redactó los borradores de los veintiséis artículos de esta serie. También redactó los pasajes sobre esa empresa en los artículos vigesimosegundo a vigesimoquinto. Aquí la IA es una herramienta. No puede sustituir el juicio. De cada juicio escrito aquí respondo yo.