L'éthique de l'IA pour ceux qui décident : cinq questions qui remplacent le séminaire

L'éthique de l'IA a un problème d'image dans la formation au management : un séminaire sur les dilemmes du tramway et les droits des robots, détaché de tout ce qu'un chef de produit ou un DRH décide un mardi. Cette version mérite sa réputation. La version utile est différente — c'est l'ensemble des questions qui, posées au moment de décider, préviennent les incidents qu'on appellera plus tard des échecs éthiques.

L'observation pratique derrière les cadres, des Principes IA de l'OCDE aux niveaux de risque de l'AI Act, est que les échecs éthiques de l'IA en entreprise sont rarement exotiques. Ce sont des négligences ordinaires à une échelle nouvelle : données utilisées au-delà de leur consentement, biais historique automatisé, personnes affectées sans recours, personne de responsable quand le système se trompe. Chacun a sa question qui l'attrape tôt.

Les cinq questions

D'où viennent les données, et leurs sujets s'y opposeraient-ils ? Cette question attrape le moissonnage au-delà du consentement, le détournement de données collectées pour autre chose, et l'envoi d'informations confidentielles vers des outils qui les conservent — les échecs de confidentialité qui constituent une grande part des incidents réels. C'est la question Samsung et la question RGPD en une.

Pour qui ce système échoue-t-il ? Tout modèle a une distribution d'erreurs, et les erreurs sont rarement uniformes entre groupes — la leçon de l'outil de recrutement d'Amazon et de chaque audit de biais depuis. Demander les taux d'erreur désagrégés avant le déploiement, pas après l'article de presse, voilà ce que « équité » veut dire opérationnellement. Si le fournisseur ne peut pas les produire, c'est la réponse.

Une personne affectée peut-elle savoir, et contester ? La question de transparence. Un candidat rejeté, une transaction signalée, un client écarté par le prix : savent-ils qu'un système automatisé est intervenu, et existe-t-il une voie humaine pour le contester ? La réglementation impose de plus en plus les deux — divulgation dans la loi new-yorkaise sur l'embauche, supervision humaine dans l'AI Act — mais l'argument opérationnel est plus ancien : les systèmes dont les erreurs ne peuvent pas être contestées ne sont pas corrigés.

Qui possède l'échec ? Avant le déploiement, une personne nommée accepte la responsabilité des sorties du système — pas le fournisseur, pas « l'algorithme ». C'est la question qui change le plus les comportements, parce qu'une responsabilité tarifée d'avance achète la supervision, les journaux et les budgets de revue que « l'innovation » n'achète jamais. La structure de responsabilité du déployeur dans l'AI Act inscrit le même instinct dans la loi.

Qu'est-ce que cela coûte que nous ne payons pas ? La question des externalités : énergie et eau consommées à l'échelle, créateurs dont le travail a entraîné le modèle, dé-qualification de l'équipe qui cesse de pratiquer ce qu'elle délègue. Toute externalité ne change pas la décision ; les nommer garde la décision honnête — et les cadres de reporting demandent de plus en plus exactement cette comptabilité.

Pourquoi les questions battent les chartes

Les chartes éthiques d'entreprise convergent vers les mêmes abstractions — équité, transparence, responsabilité — et les abstractions n'agissent pas. Les cinq questions agissent, parce qu'elles s'attachent à des décisions précises au moment où quelqu'un les prend : cet achat, ce déploiement, ce jeu de données. C'est aussi pourquoi elles s'enseignent. Un cas où les étudiants doivent trancher — déployer l'outil de tri ou non, les chiffres d'audit en main et l'échéance de recrutement qui approche — construit le réflexe qu'un cours magistral sur l'équité ne peut pas construire.

La thèse plus profonde à enseigner en parallèle : ce ne sont pas des contraintes posées sur le bon jugement d'affaires, c'en est une partie. Les échecs documentés de l'IA — outils d'embauche biaisés, données fuitées, erreurs incontestées qui se composent — étaient aussi des échecs d'affaires : candidats perdus, exposition réglementaire, reprises, coût réputationnel. L'éthique en cinq questions coûte moins cher que l'éthique en gestion de crise. Les entreprises qui l'ont appris l'ont appris en public, pour que les étudiants n'aient pas à le faire.