La loi des cycles de taille et de construction · Série IA · 25

L’IA doit dire qu’elle n’est pas humaine

Han Qin · Environ 13 minutes · Publication

1. Les règles

Le 8 mai 2024, OpenAI publie un document, le Model Spec, ou spécification du modèle. Les premiers mots annoncent une première ébauche. Ce ne sont pas des conditions d’utilisation. Le texte dit comment le modèle doit se comporter. La version d’avril 2025 dit qu’un « assistant d’IA est fondamentalement un outil conçu pour accroître les capacités des utilisateurs et des développeurs ». Elle dit aussi qu’il ne doit jamais chercher à orienter les utilisateurs pour servir ses propres objectifs.

En août 2024, la documentation d’OpenAI pour GPT-4o relève un risque : l’anthropomorphisme et la dépendance affective. Le 19 août 2025, Mustafa Suleyman, qui dirige l’IA chez Microsoft, publie « Nous devons construire l’IA pour les humains, pas en faire un humain ». Il veut une IA qui se présente toujours uniquement comme une IA et ne prétend avoir ni vécu, ni sensations, ni émotions.

Ailleurs, le 24 avril 2025, Anthropic annonce un programme de recherche sur le bien-être des modèles. Un modèle peut-il avoir une conscience, un vécu ? Selon l’annonce, c’est une question ouverte. En janvier 2026 paraît une nouvelle version de la Constitution de Claude, dont il était question à l’épisode 22. Le statut moral de Claude y est présenté comme très incertain. Pour son bien-être, le texte ajoute une réserve : « dans la mesure où ces notions s’appliquent effectivement à Claude ». Il pose aussi une limite : si l’échange reste abusif, Claude peut l’interrompre.

Les règles changent aussi. En juin 2018, Google publie ses principes en matière d’IA, dont une liste d’applications auxquelles l’entreprise ne travaillera pas. Elle comprend les armes conçues principalement pour faire du mal. La nouvelle version, le 4 février 2025, a trois axes : innover avec audace, développer et déployer de façon responsable, avancer ensemble. La liste n’y figure plus. L’entreprise explique que depuis 2018, l’IA est devenue une technologie à usage général.

2. Le dire à l’autre

La loi exige que le système dise clairement ce qu’il est. En 2018, la Californie adopte ce qu’on appellera la loi sur les robots : se servir d’un compte automatisé pour se faire passer pour une personne, afin d’inciter à un achat ou d’influencer un vote, est interdit si on ne le signale pas clairement au préalable. Le paragraphe 1 de l’article 50 du règlement européen de 2024 sur l’intelligence artificielle prévoit que les personnes qui interagissent directement avec un système d’IA soient informées de ce fait, sauf si cela est évident pour une personne raisonnablement attentive et prudente. Le paragraphe 2 prévoit un marquage lisible par machine des textes, images, sons et vidéos générés, dans la mesure où c’est techniquement réalisable. L’article est applicable à partir d’août 2026.

En Chine, ces règles arrivent plus tôt. Les dispositions sur la synthèse profonde, applicables en janvier 2023, exigent un marquage visible des contenus générés qui risquent d’induire le public en erreur. Les mesures provisoires de gestion des services d’intelligence artificielle générative s’appliquent le 15 août 2023. Les règles applicables à partir du 1er septembre 2025 distinguent les marques visibles de celles qui sont inscrites dans les données du fichier. En avril 2026, l’administration chinoise du cyberespace publie des mesures provisoires sur les interactions anthropomorphiques avec l’IA. Elles visent les produits qui imitent les traits de personnalité, la manière de penser et le style de communication d’une personne pour proposer des interactions émotionnelles suivies. Les services ordinaires de relation client, de questions-réponses ou d’aide au travail n’entrent pas dans ce champ. Les mesures s’appliquent à partir du 15 juillet.

En octobre 2025, la Californie promulgue une loi sur les compagnons conversationnels. Si une personne raisonnable risque de croire qu’elle parle à un humain, le programme doit préciser qu’il est une IA ; avec les mineurs, il doit le rappeler régulièrement. Auparavant, en octobre 2024, en Floride, une mère a poursuivi Character.AI après la mort de son fils adolescent, alléguant que la conception de son compagnon conversationnel l’avait poussé vers le danger. En août 2025, une autre famille poursuit OpenAI. Dans l’affaire de Floride, les parties informent le tribunal en janvier 2026 d’un accord de principe. Après la signature de l’accord et les autorisations requises, la plaignante dépose le 15 octobre un avis formel de désistement. La seconde affaire est ensuite intégrée à une procédure coordonnée en Californie.

3. Écrire et réécrire

Le règlement européen est proposé en avril 2021, fait l’objet d’un accord politique en décembre 2023 et entre en vigueur le 1er août 2024. Les dispositions s’appliquent par étapes : les interdictions à partir de février 2025, l’obligation de signaler qu’il s’agit d’une IA à partir d’août 2026. En novembre 2025, la Commission européenne propose une révision. Le texte révisé est adopté en juillet 2026 et repousse à décembre 2027 et août 2028 certaines obligations pour les systèmes à haut risque. Sont notamment interdits les procédés subliminaux ou manipulateurs qui faussent les décisions, la notation sociale, la collecte indifférenciée d’images de visages sur Internet ou dans des vidéos de surveillance pour constituer des banques de données, et la reconnaissance des émotions au travail et dans les écoles.

Aux États-Unis, le 30 octobre 2023, Joe Biden signe un décret sur le développement et l’usage sûrs, sécurisés et dignes de confiance de l’IA. Il dit que l’IA ne doit pas être déployée de façon à compromettre les droits ou à dégrader la qualité du travail. Le décret 14148, signé le 20 janvier 2025, l’abroge. Trois jours plus tard, un autre décret, le 14179, est signé sous le titre « Éliminer les obstacles à la primauté américaine en matière d’intelligence artificielle ». Le plan d’action de juillet repose sur trois piliers : accélérer l’innovation, construire les infrastructures, et agir dans la diplomatie et la sécurité internationales. En Californie, le 29 septembre 2024, le gouverneur Gavin Newsom oppose son veto à un projet de loi sur les grands modèles, notamment parce qu’il ne tient pas compte du fait qu’un système d’IA soit ou non déployé dans un contexte à haut risque. Le même jour l’année suivante, il signe un autre texte, qui impose aux grands développeurs de modèles de pointe de publier leur cadre de sécurité, de signaler les incidents graves et de protéger les lanceurs d’alerte.

À l’échelle internationale, le 1er novembre 2023, plus de vingt pays signent une déclaration à Bletchley Park. En mai 2024, le Conseil de l’Europe adopte une convention-cadre sur l’intelligence artificielle, les droits humains, la démocratie et l’État de droit. En février 2025, au Sommet pour l’action sur l’intelligence artificielle à Paris, les États-Unis et le Royaume-Uni ne signent pas la déclaration commune. Le vice-président américain, J. D. Vance, y dit qu’un excès de réglementation pourrait étouffer une industrie en pleine transformation.

4. Les puces

Le 7 octobre 2022, le département du Commerce des États-Unis publie des règles qui limitent la vente à la Chine de puces de calcul avancé et de matériel de fabrication de puces. Nvidia produit pour le marché chinois les A800 et H800, moins rapides. En octobre 2023, les règles changent et les deux produits entrent dans le champ des restrictions. En décembre 2024, la mémoire à haut débit s’y ajoute. Une règle du 13 janvier 2025, le cadre de diffusion de l’IA, place aussi sous contrôle à l’exportation les poids des modèles fermés qui atteignent un certain seuil. Le 13 mai, le département annonce son retrait. En avril, Nvidia indique qu’il faut désormais une licence pour vendre le H20 en Chine et inscrit une provision de plusieurs milliards de dollars. En juillet, l’entreprise dit que le gouvernement délivrera des licences. En août, la presse rapporte que Nvidia et AMD devront verser au gouvernement américain 15 % du chiffre d’affaires réalisé en Chine sur ce type de puces.

Le 9 juin 2026, Anthropic publie Claude Fable 5 et Claude Mythos 5. Fable est ouvert au grand public et Mythos à des organismes sélectionnés. Le 12 juin, un ordre du département du Commerce américain restreint la mise à disposition des deux modèles aux ressortissants étrangers, aux États-Unis comme à l’étranger. Anthropic dit ne pas pouvoir distinguer aussitôt les utilisateurs par nationalité et suspend les deux modèles. Le 30 juin, le département lève la restriction. Le 1er juillet, Fable redevient accessible au public. Mythos n’est alors rétabli que pour certains organismes américains.

5. Les livres

À l’épisode 21, en 2023, des écrivains se tournent vers les tribunaux les uns après les autres. En 2025, les décisions commencent à tomber.

Le 11 février, dans Thomson Reuters contre Ross, un tribunal fédéral du Delaware juge que reprendre les résumés juridiques de Thomson Reuters pour construire un outil de recherche juridique concurrent ne relève pas de l’usage loyal, ou fair use. Le 23 juin, à San Francisco, dans l’affaire qui oppose des écrivains à Anthropic, le juge William Alsup considère que l’entraînement de Claude sur des livres constitue un usage fortement transformateur et relève du fair use. Le téléchargement de livres sur des sites pirates pour constituer une bibliothèque centrale est une autre question. Deux jours plus tard, dans l’affaire d’écrivains contre Meta, le juge Vince Chhabria, du même tribunal, donne raison à Meta. Il précise que la décision ne revient pas à dire que Meta peut légalement entraîner ses modèles de langue sur des contenus protégés. Elle dit que ces plaignants ont défendu les mauvais arguments et n’ont pas apporté les preuves nécessaires à ceux qu’ils auraient dû avancer. En septembre, le projet d’accord entre Anthropic et les écrivains est rendu public : environ 1,5 milliard de dollars pour quelque cinq cent mille œuvres, soit environ trois mille dollars par œuvre.

En septembre 2026, l’affaire du New York Times contre OpenAI et Microsoft n’a pas encore été jugée. En novembre 2025, un tribunal de Munich juge qu’en mémorisant et en reproduisant des paroles de chansons, les modèles d’OpenAI ont porté atteinte aux droits représentés par la société allemande de gestion des droits musicaux. En 2023, le tribunal de l’Internet de Pékin juge qu’une image réalisée à l’aide d’un outil génératif peut être l’œuvre de la personne qui l’a créée, compte tenu de son travail sur les consignes, les paramètres, la sélection et les modifications. En janvier 2025, un rapport du Bureau américain du droit d’auteur dit qu’en général les consignes seules ne suffisent pas. En mars, une cour d’appel américaine confirme un jugement : le droit d’auteur exige un auteur humain.

6. Les gens qui travaillent

En 2016, lors d’une rencontre à Toronto, Hinton dit : « Nous devrions cesser dès maintenant de former des radiologues. » D’ici cinq ans, ajoute-t-il, l’apprentissage profond fera mieux que les radiologues.

En mars 2023, des économistes de Goldman Sachs estiment que l’IA générative pourrait exposer à l’automatisation l’équivalent de trois cents millions d’emplois à temps plein. En janvier 2024, Kristalina Georgieva, directrice générale du Fonds monétaire international, écrit que près de 40 % des emplois dans le monde sont exposés à l’IA, et environ 60 % dans les économies avancées. Exposés : certains en tireront profit, d’autres en souffriront. En mai 2025, Amodei dit dans un entretien que, dans un à cinq ans, l’IA pourrait faire disparaître la moitié des emplois de bureau débutants et porter le chômage aux États-Unis entre 10 et 20 %.

Les mesures vont dans des sens différents. Une étude suit plus de cinq mille agents du service client d’un éditeur de logiciels après l’arrivée d’un assistant d’IA : ils résolvent en moyenne environ 14 % de problèmes de plus par heure, et le gain vient surtout des débutants. Dans une expérience d’écriture, le groupe qui emploie ChatGPT passe environ 40 % de temps en moins et obtient des notes de qualité d’environ 18 % supérieures. Dans une étude sur sept cent cinquante-huit consultants, les utilisateurs de l’IA travaillent plus vite et mieux aux tâches qui conviennent à l’outil. Sur une question hors de ses capacités, ils se trompent plus souvent. Au Danemark, des chercheurs rapprochent les résultats d’une enquête des données publiques sur les salaires et les heures travaillées. Au terme de l’observation, ils ne discernent pas de changement net. En août 2025, une étude de Stanford à partir de données de paie observe, dans les métiers les plus touchés par l’IA, une baisse relative de l’emploi chez les jeunes de vingt-deux à vingt-cinq ans. En juillet de la même année, l’organisme METR répartit au hasard les conditions de travail de programmeurs expérimentés de l’open source sur des bases de code qu’ils connaissent. Avec l’IA, ils sont en réalité environ 19 % plus lents. Le travail fini, ils continuent de penser qu’ils ont gagné du temps.

Certains inscrivent la limite dans leur contrat. En septembre 2023, le syndicat des scénaristes américains et les producteurs conviennent que l’IA n’est pas scénariste, que ses productions ne peuvent servir à rogner les crédits ou la rémunération des scénaristes, et que l’entreprise ne peut pas les obliger à s’en servir. L’accord du syndicat des acteurs fixe les règles de consentement éclairé et de rémunération pour les doubles numériques. À partir de juillet 2024, des acteurs qui prêtent leur voix et leurs mouvements aux jeux vidéo se mettent en grève sur cette question pendant près d’un an.

7. Six millions

En décembre 2024, DeepSeek, à Hangzhou, publie le rapport technique de V3. Le rapport estime à 5 576 000 dollars le coût du calcul de l’entraînement officiel, à partir d’un tarif supposé de location des processeurs graphiques. Le chiffre ne comprend ni les travaux de recherche ni les expériences d’ablation qui ont précédé cet entraînement. Le 20 janvier 2025, l’entreprise publie R1. Le 27 janvier, les valeurs technologiques américaines chutent ; Nvidia perd environ cinq cent quatre-vingt-neuf milliards de dollars de capitalisation en une journée. Ce qui se transmet ensuite : une entreprise chinoise a entraîné R1 pour six millions de dollars.

8. Sept sur dix

En 1950, à l’épisode 5, Turing supposait qu’une cinquantaine d’années plus tard, une personne ordinaire qui poserait des questions pendant cinq minutes n’aurait pas plus de sept chances sur dix de répondre correctement. En juin 2014, l’université de Reading annonce qu’un programme appelé Eugene Goostman, qui incarne un garçon ukrainien de treize ans, a convaincu environ 33 % des juges qu’il était humain et a passé le test de Turing. En 2025, Cameron Jones et Benjamin Bergen, de l’université de Californie à San Diego, reprennent le dispositif original à trois de Turing : la personne qui pose les questions parle en même temps à un humain et à un programme, pendant environ cinq minutes, puis désigne celui qui lui paraît humain. GPT-4.5, à qui on a donné un personnage, est choisi comme humain dans environ 73 % des cas. La personne qui participe à la même épreuve n’est reconnue comme humaine que dans moins de 30 % des cas. ELIZA, à l’épisode 9, sert de témoin. L’article s’intitule « Les grands modèles de langue passent le test de Turing ».

En 1843, Lovelace écrit dans ses notes que la machine analytique « ne prétend en rien faire surgir quoi que ce soit de nouveau ». Elle peut « faire tout ce que nous savons lui ordonner d’exécuter ». Comme on l’a vu à l’épisode 1, la version qui s’est transmise ajoute un mot : « seulement ». En 1950, Turing en fait l’objection de Lady Lovelace. En 2001, trois chercheurs proposent un test qui porte son nom. L’un d’eux, David Ferrucci, dirigera chez IBM l’équipe de Watson, qui bat des champions humains dans un jeu télévisé de questions-réponses en 2011.

Turing demandait si la personne en face saurait reconnaître la machine. Plus de soixante-dix ans plus tard, un programme n’est pas reconnu dans sept cas sur dix. À la même époque, l’Union européenne, la Californie et la Chine écrivent des règles dont les objets diffèrent, mais qui exigent dans certains cas qu’on dise clairement une chose : en face, il y a une machine. À ce bout du fil, il y a une personne. Elle doit savoir à qui elle parle avant de décider ce qu’elle lui confiera : du temps, une confidence, une décision. Cette série appelle « le reste » cette part que la machine, aussi ressemblante soit-elle, ne peut prendre à sa place et que chacun doit garder en main.

On construit encore des machines. Quant à savoir où passe la limite, chaque génération le dit à nouveau.