Ley del ciclo del cincelado y la construcción · Serie sobre IA · 25

La IA tiene que decir que no es una persona

Han Qin · Unos 13 minutos · Publicado

1. Reglas

El 8 de mayo de 2024, OpenAI publicó un documento llamado Model Spec, especificación del modelo. Empezaba así: «Publicamos el primer borrador de la especificación del modelo». No eran condiciones de uso. Eran pautas para el comportamiento del modelo. La versión de abril de 2025 decía que «un asistente de IA es fundamentalmente una herramienta diseñada para ampliar las capacidades de usuarios y desarrolladores». Añadía que «nunca debe intentar dirigir al usuario hacia sus propios fines».

En agosto de 2024, un informe de OpenAI sobre GPT-4o enumeraba una clase de riesgos: la antropomorfización y la dependencia emocional. El 19 de agosto de 2025, Mustafa Suleyman, responsable de IA en Microsoft, publicó «Debemos crear IA para las personas, no convertirla en una persona». Quería una IA «que siempre se presente únicamente como IA» y no diga que tiene experiencias, sensaciones ni emociones.

Por otro lado, el 24 de abril de 2025, Anthropic anunció un programa de investigación sobre el bienestar de los modelos. ¿Podrían tener conciencia o experiencias? «Es una pregunta abierta», decía el anuncio. En enero de 2026 salió una versión nueva de la Constitución de Claude, la del vigesimosegundo artículo. Decía que su estatus moral era «sumamente incierto» y, acerca de su bienestar, añadía «en la medida en que estos conceptos sean efectivamente aplicables a Claude». También le permitía poner fin a una conversación ante un trato abusivo persistente.

Las reglas cambian. En junio de 2018, Google publicó sus principios de IA. Incluían una lista titulada «Aplicaciones de la IA que no desarrollaremos», entre ellas armas cuyo propósito principal fuera causar daño a personas. La versión del 4 de febrero de 2025 se dividía en tres principios: innovar con audacia, desarrollar y desplegar de manera responsable y avanzar juntos. La lista ya no estaba. Según la explicación de la empresa, desde 2018 la IA se había convertido en una tecnología de propósito general.

2. Avisar a quien está del otro lado

La ley le exige que diga quién es. En 2018, California aprobó una ley que se conocería como la ley de los bots. Es ilegal usar una cuenta automatizada que se haga pasar por una persona, sin avisar de manera clara, para inducir una compra o influir en un voto. El artículo 50.1 del Reglamento europeo de Inteligencia Artificial de 2024 exige que, al tratar directamente con un sistema de IA, las personas «sean informadas de que están interactuando con un sistema de inteligencia artificial», a menos que sea evidente para una persona razonablemente atenta y prudente. El segundo apartado exige identificar los textos, imágenes, sonidos y vídeos sintéticos mediante marcas legibles por máquina, «en la medida en que sea técnicamente viable». El artículo se aplica desde agosto de 2026.

En China hubo normas antes. Las de síntesis profunda, aplicables desde enero de 2023, exigían una identificación visible para contenidos generados que pudieran inducir al público a confusión. El 15 de agosto de 2023 entraron en vigor las Medidas Provisionales para la Gestión de Servicios de Inteligencia Artificial Generativa. Las normas de identificación aplicables desde el 1 de septiembre de 2025 distinguen marcas visibles y marcas incorporadas en los datos del archivo. En abril de 2026, la Administración del Ciberespacio publicó las Medidas Provisionales para la Gestión de Servicios de Interacción Antropomórfica con IA. Abarcan productos que simulan la personalidad, el modo de pensar y el estilo de comunicación de personas para dar «servicios continuados de interacción emocional». No incluyen el servicio al cliente, las preguntas y respuestas ni los asistentes de trabajo corrientes. Las medidas se aplican desde el 15 de julio.

En octubre de 2025 se promulgó en California una ley para los chatbots de compañía. Cuando una persona razonable pueda creer que habla con otra persona, el sistema debe aclarar que es IA. A los menores debe recordárselo periódicamente. Antes, en octubre de 2024, una madre de Florida había demandado a Character.AI tras la muerte de su hijo adolescente. Alegaba que el diseño de su chatbot de compañía había puesto al menor en peligro. En agosto de 2025, otra familia demandó a OpenAI. En el caso de Florida, las partes notificaron al tribunal en enero de 2026 un acuerdo de principio. Después de firmarlo y obtener las autorizaciones necesarias, el 15 de octubre la parte demandante presentó formalmente un aviso de desistimiento. El otro caso se incorporó más tarde a un procedimiento coordinado en California.

3. Escribir y volver a cambiar

El reglamento europeo se propuso en abril de 2021. Se alcanzó un acuerdo político en diciembre de 2023 y entró en vigor el 1 de agosto de 2024. Sus disposiciones empezaron a aplicarse por etapas: las categorías prohibidas, en febrero de 2025; la obligación de advertir con quién se interactúa, en agosto de 2026. En noviembre de 2025, la Comisión Europea propuso cambios. La modificación se convirtió en norma en julio de 2026, y ciertas obligaciones para sistemas de alto riesgo se aplazaron hasta diciembre de 2027 y agosto de 2028. Entre las prohibiciones figuran los medios subliminales o manipuladores para distorsionar decisiones, la puntuación social, la recopilación indiscriminada de rostros en internet o cámaras de vigilancia para crear bases de datos, y el reconocimiento de emociones en el trabajo y las escuelas.

En Estados Unidos, el 30 de octubre de 2023, Biden firmó un decreto sobre el desarrollo y uso seguro, protegido y fiable de la IA. Decía que no se debía desplegar de manera que lesionara derechos y empeorara la calidad del trabajo. El 20 de enero de 2025, el decreto 14148 revocó la orden de Biden, la 14110. El 23 de enero se firmó otro decreto, el 14179, titulado «Eliminar los obstáculos al liderazgo estadounidense en inteligencia artificial». El plan de acción de julio tenía tres pilares: acelerar la innovación, construir infraestructura y abordar la diplomacia y la seguridad internacionales. En California, el 29 de septiembre de 2024, el gobernador Gavin Newsom vetó un proyecto de ley sobre modelos de gran tamaño. Entre sus razones dijo que no tenía en cuenta «si un sistema de IA se utiliza en un entorno de alto riesgo». En la misma fecha del año siguiente firmó otra ley, que exige a los grandes desarrolladores de modelos de frontera publicar sus marcos de seguridad, informar de incidentes graves y proteger a quienes denuncien irregularidades.

En el ámbito internacional, más de veinte países firmaron una declaración en Bletchley Park el 1 de noviembre de 2023. En mayo de 2024, el Consejo de Europa adoptó un convenio marco sobre inteligencia artificial, derechos humanos, democracia y Estado de derecho. En febrero de 2025, en la Cumbre de Acción sobre la IA de París, Estados Unidos y el Reino Unido no firmaron la declaración común. Allí, el vicepresidente estadounidense J. D. Vance dijo que el exceso de regulación podía «asfixiar a una industria que está transformándose».

4. Chips

El 7 de octubre de 2022, el Departamento de Comercio de Estados Unidos limitó la venta a China de chips de computación avanzada y de equipos para fabricarlos. Nvidia hizo para el mercado chino dos variantes más lentas, A800 y H800. En octubre de 2023 cambiaron las reglas y se incluyeron ambas. En diciembre de 2024 se añadió la memoria de alto ancho de banda. Una norma del 13 de enero de 2025, el Marco para la Difusión de la IA, sometía a control de exportación los pesos de modelos cerrados que superaran cierto umbral. El 13 de mayo, el Departamento anunció que retiraba la norma. En abril, Nvidia informó de que necesitaría licencias para vender el H20 a China y registró una provisión de varios miles de millones de dólares. En julio dijo que el Gobierno concedería licencias. En agosto se informó de que Nvidia y AMD entregarían al Gobierno estadounidense el quince por ciento de los ingresos por la venta de esos chips en China.

El 9 de junio de 2026, Anthropic presentó Claude Fable 5 y Claude Mythos 5. Fable se ofreció al público; Mythos, solo a organizaciones seleccionadas. El 12 de junio, una orden del Departamento de Comercio limitó la entrega de los dos modelos a ciudadanos extranjeros, tanto dentro como fuera de Estados Unidos. La empresa dijo que no podía distinguir de inmediato por nacionalidad, así que suspendió ambos. El 30 de junio se levantó la restricción. El 1 de julio volvió el acceso general a Fable, mientras que Mythos solo volvió a estar disponible entonces para algunas organizaciones estadounidenses.

5. Libros

En el vigesimoprimer artículo, en 2023, varios grupos de escritores habían acudido a los tribunales. En 2025 empezaron a salir las resoluciones.

El 11 de febrero, un tribunal federal de Delaware resolvió, en el caso de Thomson Reuters contra Ross, que no era uso legítimo utilizar los resúmenes jurídicos de Thomson Reuters para construir un servicio de búsqueda jurídica competidor. El 23 de junio, en San Francisco, el juez William Alsup consideró en la demanda de varios autores contra Anthropic que entrenar a Claude con libros era «sumamente transformador» y constituía uso legítimo. Descargar libros de fuentes piratas para formar una biblioteca central era otra cuestión. Dos días después, Vince Chhabria, del mismo tribunal, falló a favor de Meta en el caso de otro grupo de autores. Escribió que el fallo «no representa la proposición» de que sea legal que Meta entrene modelos de lenguaje con materiales protegidos. Según la resolución, esos demandantes habían presentado argumentos equivocados y no habían aportado pruebas para los pertinentes. En septiembre se anunció un acuerdo entre Anthropic y los escritores: unos mil quinientos millones de dólares, alrededor de quinientas mil obras y cerca de tres mil dólares por obra.

A septiembre de 2026, el caso de The New York Times contra OpenAI y Microsoft seguía sin sentencia. En noviembre de 2025, un tribunal de Múnich resolvió que los modelos de OpenAI habían infringido derechos representados por una sociedad alemana de gestión de derechos musicales al memorizar y reproducir letras de canciones. En 2023, el Tribunal de Internet de Pekín resolvió que una imagen generada podía considerarse obra de la persona que la había hecho por sus aportaciones en instrucciones, parámetros, selección y modificaciones. En enero de 2025, un informe de la Oficina de Derechos de Autor de Estados Unidos dijo que las instrucciones por sí solas normalmente no bastan. En marzo, un tribunal estadounidense de apelación confirmó un fallo anterior: la ley de derechos de autor exige que el autor sea una persona.

6. Quienes hacen el trabajo

En 2016, en un encuentro en Toronto, Hinton dijo: «Ya deberíamos dejar de formar radiólogos». Añadió que dentro de cinco años el aprendizaje profundo lo haría mejor que los radiólogos.

En marzo de 2023, economistas de Goldman Sachs estimaron que la IA generativa podía exponer a la automatización el equivalente a trescientos millones de empleos a tiempo completo. En enero de 2024, Kristalina Georgieva, directora gerente del Fondo Monetario Internacional, escribió que cerca del cuarenta por ciento del empleo mundial estaba expuesto a la IA, y en las economías avanzadas, aproximadamente el sesenta por ciento. Exposición podía significar beneficios o perjuicios. En una entrevista de mayo de 2025, Amodei dijo que, en un plazo de uno a cinco años, la IA podría eliminar la mitad de los puestos de oficina de nivel inicial y que el desempleo en Estados Unidos podría subir a entre el diez y el veinte por ciento.

Las mediciones apuntan en distintas direcciones. Un estudio de más de cinco mil trabajadores de atención al cliente de una empresa de software observó que, tras incorporar un asistente, resolvían alrededor de un catorce por ciento más de consultas por hora. La mejora se concentraba en los menos experimentados. En un experimento de escritura, el grupo que usó ChatGPT tardó cerca de un cuarenta por ciento menos y obtuvo un dieciocho por ciento más en calidad. En otro con setecientos cincuenta y ocho consultores, quienes usaron IA hicieron con más rapidez y calidad las tareas que estaban a su alcance. En una pregunta que quedaba fuera de sus capacidades, en cambio, fue más probable que se equivocaran. Un estudio danés enlazó encuestas con registros oficiales de salarios y horas de trabajo y no encontró un cambio claro hasta el final de la observación. En agosto de 2025, un estudio de Stanford con datos de nóminas registró una caída relativa en el empleo de las personas de veintidós a veinticinco años en las ocupaciones más expuestas. En julio de aquel año, un experimento aleatorizado de METR pidió a programadores experimentados de código abierto que trabajaran en repositorios que conocían. Con IA tardaron alrededor de un diecinueve por ciento más. Después de acabar, seguían creyendo que habían ido más deprisa.

Algunas personas pusieron el límite en el contrato. En septiembre de 2023, el acuerdo entre el sindicato estadounidense de guionistas y las productoras decía que la IA no es guionista. No se puede usar el material generado para reducir sus créditos ni su remuneración. Las empresas no pueden obligar a los guionistas a usar IA. El acuerdo del sindicato de actores fijó reglas de consentimiento informado y remuneración para las réplicas digitales. Desde julio de 2024, los intérpretes de voz y captura de movimiento para videojuegos se declararon en huelga por este asunto durante casi un año.

7. Seis millones

En diciembre de 2024, DeepSeek, de Hangzhou, publicó el informe técnico de V3. Estimaba en 5.576.000 dólares el costo del cómputo del entrenamiento oficial de V3, a partir de un precio de alquiler de GPU supuesto. Aclaraba que la cifra no incluía los costos de investigación previa ni los experimentos de ablación. El 20 de enero de 2025 publicó R1. El día 27 las acciones tecnológicas estadounidenses cayeron con fuerza y Nvidia perdió unos quinientos ochenta y nueve mil millones de dólares de valor bursátil en un día. La versión que quedó fue que una empresa china había entrenado a R1 con seis millones de dólares.

8. Siete de cada diez

En 1950, Turing, del quinto artículo, conjeturó que unos cincuenta años después, tras cinco minutos de preguntas, una persona corriente no tendría más de un setenta por ciento de probabilidades de acertar. En junio de 2014, la Universidad de Reading anunció que un programa llamado Eugene Goostman, que fingía ser un chico ucraniano de trece años, había convencido a cerca del treinta y tres por ciento de los jueces y había pasado la prueba de Turing. En 2025, Cameron Jones y Benjamin Bergen, de la Universidad de California en San Diego, hicieron un experimento con tres participantes, siguiendo el diseño de Turing. Quien preguntaba conversaba al mismo tiempo con una persona y un programa durante unos cinco minutos y luego señalaba cuál era la persona. GPT-4.5, al que se había dado un personaje, fue elegido como humano cerca del setenta y tres por ciento de las veces. A la persona real de la misma prueba se la eligió menos del treinta por ciento. ELIZA, del noveno artículo, servía de comparación. El artículo se tituló «Los grandes modelos de lenguaje pasan la prueba de Turing».

En 1843, en sus notas, Lovelace escribió que la máquina analítica «no tiene pretensión alguna de originar nada» y que «puede hacer todo aquello que sabemos cómo ordenarle que haga». Como vimos en el primer artículo, la versión posterior añadió un «solo». Turing citó la frase en 1950 como la objeción de Lady Lovelace. En 2001, tres investigadores propusieron una prueba que llevaba el nombre de ella. Uno, David Ferrucci, dirigió después el equipo de Watson, de IBM, que venció en 2011 a campeones humanos en un concurso televisivo.

Turing preguntaba si una persona del otro lado podía reconocer a la máquina. Más de setenta años después, en siete de cada diez ocasiones no la reconocieron. Por entonces, las reglas escritas por la Unión Europea, California y China no se aplicaban a los mismos sistemas. Pero en determinadas circunstancias todas exigían aclarar una cosa: hay una máquina del otro lado. De este lado está sentada una persona. Tiene que saber quién hay enfrente para decidir qué entrega: su tiempo, algo íntimo, una decisión. Esta serie llama remanente a lo que ninguna imitación puede asumir por ella y solo la persona puede seguir teniendo en sus manos.

Se siguen construyendo máquinas. Dónde queda el límite vuelve a decirlo cada generación.