Lire l’essai
Non Dubito

Les disciplines · 08

Une fois le choix devenu paramètre, qui répond ?

Écrire un choix dans le code ne l’efface pas. Quand les sorties décident sans cesse de situations humaines, les raisons et les voies de réexamen doivent suivre.

Han Qin ·

Imaginons un prêteur utilisant un score : demande reçue, calcul effectué, approbation au-dessus d’une ligne. Le guichet dit que le système le veut ; le développeur qu’il applique le cahier des charges. La ligne n’est pas tombée du ciel, mais l’usage répété peut faire perdre celui qui doit l’expliquer.

La question n’est pas de savoir si l’ordinateur juge, mais comment un choix déjà fait devient une opération continuellement efficace. Dix mille demandes quotidiennes seraient ici un nombre imaginé : il montre qu’un même compromis non éclairci peut toucher de nouvelles personnes sans nouvelle discussion.

Il y a d’abord le choix du but. Prédire le remboursement ponctuel ne juge pas si quelqu’un mérite de l’aide ; déterminer l’adaptation à un prêt ne mesure pas les besoins de la vie. Chaque objectif peut avoir ses raisons. Une sortie chiffrée commune ne les rend pas interchangeables.

Plus en amont, pourquoi les données représentent-elles le but ? Les dépenses passées ne mesurent pas forcément les besoins : ne pas dépenser peut venir de l’impossibilité de payer. Dans un programme d’aide imaginé, les prendre comme substitut peut produire un calcul exact, sans expliquer la pertinence du remplacement. Reproduire fidèlement le substitut ne répond pas au choix de l’objectif.

Le seuil distribue d’autres coûts. Le relever peut réduire une erreur et en augmenter une autre. Qui est refusé à tort, qui paie une admission erronée ? La propreté du chiffre ne retire pas ces questions. Le seuil peut rester, mais avec des raisons : son format de paramètre n’en est pas une.

L’équité elle-même n’est pas un interrupteur unique. On peut vouloir le même sens pour un même score, la même proportion de refus erronés parmi les admissibles ou d’admissions erronées parmi les non-admissibles. Il faut préciser ce que chaque exigence protège, non baptiser simplement l’indicateur final équitable.

Kleinberg, Mullainathan et Raghavan étudient des exigences précises : calibration au sein des groupes et équilibre, entre groupes, des scores moyens des cas réellement positifs d’une part, des cas réellement négatifs d’autre part. Positif et négatif désignent les résultats effectifs, non la valeur des personnes. Sauf notamment prédiction parfaite ou taux de base égaux, les trois ne peuvent coexister. Cela ne condamne pas n’importe quels trois critères d’équité.

Chouldechova examine, dans une autre étude, l’égalité de la valeur prédictive positive et celle des deux taux d’erreur : sous les conditions pertinentes de taux de base différents et de prédiction imparfaite, elles entrent en conflit. Ne mélangeons pas les définitions des deux résultats. Calibration n’est pas un autre nom du taux de faux positifs, et les mathématiques n’ont pas choisi ce qu’il faut sacrifier.

Ces théorèmes ne prouvent pas un système réel nécessairement injuste ni l’inutilité des efforts. Ils empêchent la promesse facile de confier quelques beaux mots aux ingénieurs pour les réaliser tous sans coût. Le conflit expliqué rend le choix plus encore digne d’être vu, expliqué et rouvert.

Si le prêteur répond à la question de son objectif d’équité par la seule calibration de la prédiction, les portées peuvent se décaler. La calibration soutient une affirmation prédictive précise, pas automatiquement le choix de ce critère d’équité. Regardons d’abord la question puis la preuve, sans accorder davantage de réponses à une pièce parce qu’elle est technique.

L’automatisation aussi a ses conditions. Si la sortie décide réellement, ou est recopiée habituellement sans nouveau jugement, le paramètre répète son choix. Une personne pouvant réellement modifier la décision change la situation. La mention d’une révision humaine à l’écran ne prouve pas une nouvelle délibération à chaque fois.

Jusqu’où cette révision peut-elle aller ? Corriger la saisie d’un dossier diffère d’interroger objectif, variable de substitution et seuil. La correction individuelle mérite reconnaissance sans prouver le réexamen du paramètre produisant des difficultés semblables. Les deux voies peuvent être nécessaires sans se faire passer l’une pour l’autre.

Publier le paramètre n’est qu’un pas. Voir le chiffre ne dit pas pourquoi l’utiliser ; obtenir le code ne révèle pas facilement les choix dispersés dans configuration, achats et versions. Le coût du questionnement tient autant au retour vers les raisons qu’à la lecture du programme.

Le programme n’est pas coupable en soi. Une exécution stable peut réduire l’arbitraire, les versions aider à retracer. Si le système reproduit un choix ouvert à grande échelle, explication et réexamen restent-ils accessibles ? Tout attribuer à la machine peut cacher la décision de l’adopter.

La conformité aux normes fournit une autre articulation de portées. Dans le règlement européen sur l’IA, les normes harmonisées donnent une présomption particulière pour les exigences effectivement couvertes. Cet arrangement juridique n’est pas fautif par son existence. Une présomption délimitée demande justement de vérifier sa limite.

L’annonce de la Commission du 19 octobre 2026 présente la norme de gestion de la qualité EN 18286 publiée au Journal officiel, la rattache à l’article 17 et limite la présomption aux parties couvertes. Ce n’est pas une garantie sans borne de toutes les activités, de chaque usage concret ou de chaque choix de valeurs.

La source n’a pas lu l’annexe correspondante du texte intégral de cette norme ni trouvé de dossier réel utilisant une preuve limitée pour clore une question extérieure. Ces deux lacunes doivent rester. Une interrogation sur l’emplacement d’un article ne prouve pas l’illégalité : demande de normalisation révisée, texte effectif et correspondance doivent être examinés ensemble.

L’essai ne déclare donc pas l’éthique verrouillée par le système européen. Il faut vérifier l’objet d’une objection, la couverture effective de la preuve et son éventuel usage ultérieur pour clore ce qui n’a pas été traité. Ne pas trouver cet usage ne prouve pas son absence et n’autorise pas à deviner pourquoi il échappe à la recherche.

L’objection formelle n’est pas non plus une réponse universelle. Le guide européen des règles de produits indique qu’une objection à une référence harmonisée peut conduire à son maintien, sa restriction ou son retrait. Elle modifie un effet juridique précis, sans permettre à toute personne de rouvrir toute valeur. Champ et conditions de déclenchement restent à vérifier pour cette question.

Revenons au score. Ceux qui l’adoptent et l’utilisent ne peuvent tout remettre à son auteur. Adopter n’est pas transporter : c’est insérer un jugement dans un processus réel. Mais l’adoptant ne garantit pas soudain tout le savoir algorithmique. Il répond de ses actes, de ses raisons d’adopter et du traitement des problèmes nouveaux.

Un responsable nommé ne garantit pas des prémisses réexaminables. L’organisme peut expliquer vite une sortie tout en refusant de discuter l’objectif prédit ; il peut autoriser le débat sans moyen de déclencher une modification. Ces faits distincts ne se remplacent pas par une liste de noms.

Passi et Barocas déplacent l’attention avant le modèle. Six mois d’observation dans une équipe de science des données en entreprise montrent la formulation négociée du problème : objet à résoudre, indicateur pour le représenter, substituts recevables. C’est l’étude d’une équipe précise, non une estimation de proportions dans tous les projets.

Leur travail complète la question présente sans la répéter. Il rend visibles les choix de formation ; nous demandons aussi par où l’utilisateur revient ensuite exiger réponse et réexamen. Consigner la négociation laisse des pièces sans créer automatiquement ce pouvoir.

Imaginons une candidate refusée qui obtient enfin une révision. Le revenu saisi est corrigé, le résultat inchangé. Elle demande alors pourquoi un revenu instable mais continu reste hors évaluation. « Nous avons déjà révisé » ne suffit pas : vérifier l’entrée ne prouve pas avoir questionné la prémisse suivante.

Cela ne lui donne pas forcément droit au prêt. Le risque de crédit est réel ; le besoin d’une partie n’efface pas les coûts. L’organisme peut refuser de changer, en identifiant ce qu’il refuse et la position compétente pour cette question. Questionner n’est pas gagner ; la prudence n’impose pas non plus le réglage ancien pour toujours.

Les preuves détaillées des théorèmes, correspondances juridiques et vérification intégrale des normes restent à approfondir. Ici demeurent les passages : but vers variable, choix vers seuil, équité vers indicateur, preuve limitée vers question traitée. Chacun peut avoir ses raisons ; le code n’en dispense aucun.

Demain, le paramètre d’hier peut encore convenir à la première demande. Il ne s’agit pas de tout rediscuter chaque jour, mais de trouver une entrée réelle lorsqu’il cesse de convenir ou qu’un coût oublié apparaît. Le code continue ; les réponses ne doivent pas s’arrêter.

Source et repères de lecture

Que tout découpage laisse un reste et que les personnes soient plus que des outils sont des points de départ philosophiques et normatifs assumés, non des lois empiriques. L’examen des preuves peut traiter des valeurs ; périmètre professionnel, mandat limité et maintien après examen ne sont pas en soi des manquements. Les cas complets non trouvés ne deviennent ni faits établis ni preuves d’inexistence ; leur fréquence ne s’en déduit pas. Ces essais ne fixent ni diagnostic, ni seuil de crédit, ni conduite médicale et ne constituent pas des conseils juridiques ou pratiques professionnels.

Article théorique d’origine ↗

Kleinberg, Mullainathan et Raghavan : conflit conditionnel entre exigences d’équité des scores de risque ↗

Chouldechova : conflits entre parité prédictive et deux taux d’erreur ↗

Annonce de la Commission d’octobre 2026 : EN 18286 et présomption limitée de conformité ↗

Article 40 présenté par le service d’assistance de la Commission sur le règlement IA ↗

Guide bleu de la Commission (2022) : portée des objections formelles aux normes harmonisées ↗

Passi et Barocas : formulation des problèmes en science des données ↗