Les facteurs explicatifs de la décision, le numérique et l'intelligence artificielle

03Le numérique et l'IA dans le processus décisionnel

3.1 De quoi parle-t-on ?

Le numérique regroupe les technologies de collecte, de stockage et de traitement de l'information (bases de données, tableaux de bord, capteurs, applications). L'intelligence artificielle (IA) désigne des systèmes capables de réaliser des tâches associées à l'intelligence humaine (prédire, classer, recommander, générer du contenu) à partir de données, avec un certain degré d'autonomie.

3.2 Les usages dans le processus décisionnel

On distingue :

• l'aide à la décision : l'outil éclaire, l'humain décide ;
• la décision automatisée : l'outil décide et agit sans intervention humaine, ce qui convient surtout aux décisions programmables (cours 20).

3.3 Apports

3.4 Limites et risques

Principe directeur : l'organisation et ses dirigeants restent responsables de la décision, quelle que soit la part de l'outil. Le contrôle humain est à la fois une exigence managériale et, pour les systèmes à haut risque, une exigence réglementaire.

3.5 Le cadre européen en bref (illustration datée)

Le règlement (UE) 2024/1689 sur l'intelligence artificielle adopte une approche par les risques : pratiques interdites, systèmes à haut risque, obligations de transparence, risque minimal. En UE 7, on s'en sert comme illustration du contexte managérial, sans le développer comme un cours de droit (UE 2 et UE 3).

Dialogue social (illustration). Le déploiement d'outils d'IA, même à titre pilote, relève de la consultation du comité social et économique (CSE) sur l'introduction de nouvelles technologies (article L2312-8 du code du travail). Une ordonnance de référé du tribunal judiciaire de Nanterre du 14 février 2025 a ainsi suspendu la mise en œuvre d'outils d'IA jusqu'à la fin de la consultation du CSE : le juge a estimé qu'une « phase pilote » ouverte depuis plusieurs mois aux salariés concernés constituait déjà une première mise en œuvre. Le régime du CSE est traité en UE 3.

3.6 Apprécier le rôle du numérique et de l'IA : démarche

1. Décrire l'usage : quel outil, pour quelle décision, à quelle phase (IMC) ?
2. Qualifier la décision : programmable (automatisable) ou non programmable (aide à la décision) ; niveau (cours 20).
3. Identifier les apports attendus (rapidité, cohérence, détection...).
4. Identifier les risques (biais, opacité, données, responsabilité, effets sociaux).
5. Rechercher les garde-fous : contrôle humain, qualité des données, transparence, formation, consultation des représentants du personnel, évaluation régulière.
6. Conclure : l'usage est-il pertinent dans ce contexte ? Avec quelles conditions ?

À retenir

Hors programme UE 7 : fonctionnement technique des algorithmes, droit détaillé des données personnelles et de l'IA.

Exemples corrigés

Cas 1 : le tri automatique des candidatures

Situation. Distribution Méridienne, chaîne de supermarchés de 2 000 salariés, déploie en phase pilote un outil d'IA de présélection de candidatures pour ses postes de responsables de rayon. L'outil, entraîné sur les recrutements des dix dernières années, attribue un score aux candidatures ; les recruteurs retiennent en entretien les meilleurs scores. Sur 1 200 candidatures reçues (720 de femmes et 480 d'hommes), l'outil propose 150 candidatures à l'entretien : 36 de femmes et 114 d'hommes. Les recruteurs, soulagés du tri, suivent presque toujours la liste. Le comité social et économique n'a pas été informé du pilote ; une élue l'apprend et le signale à la direction. La directrice des ressources humaines estime que l'outil est « objectif, puisqu'il ne voit pas le sexe des candidats ».

Questions. 1. Calculez les taux de sélection et analysez. 2. Identifiez les facteurs qui expliquent cette décision. 3. Appréciez le recours à l'IA et préconisez.

Corrigé.

1. Calculs. Taux de sélection des femmes : 36 / 720 = 5 % ; des hommes : 114 / 480 = 23,75 % ; écart de 18,75 points. Le taux des femmes représente 21 % de celui des hommes (5 / 23,75). Les femmes sont 60 % des candidatures (720 / 1 200) mais seulement 24 % des candidatures retenues (36 / 150). L'écart est trop marqué pour être attribué au hasard : il révèle un biais algorithmique, probablement dû aux recrutements passés qui servent de données d'entraînement et privilégiaient des profils masculins. L'argument « l'outil ne voit pas le sexe » est insuffisant : d'autres variables (parcours, interruptions de carrière, vocabulaire) peuvent servir de substituts.

2. Facteurs. Informationnels et cognitifs : l'outil apprend à partir de données du passé (information historique biaisée) et les recruteurs lui font confiance par commodité (confiance excessive dans la machine) ; organisationnels : volonté de gagner du temps, charge de travail des recruteurs, absence de contrôle de la sortie de l'outil ; processus : déploiement en pilote sans consultation du CSE, sans évaluation préalable ; environnementaux : attentes sociales de mixité et cadre européen.

3. Appréciation et préconisation. L'usage touche une décision à fort enjeu humain et relève, en droit européen, des systèmes à haut risque (recrutement, annexe III) : les obligations correspondantes sont reportées au 2 décembre 2027 mais le besoin d'un contrôle humain et de l'information des représentants existe déjà dans une démarche responsable ; l'employeur est « déployeur » (art. 26). Préconisations : (a) suspendre le pilote le temps d'un audit des données d'entraînement et de la sortie de l'outil ; (b) imposer une revue humaine des candidatures non retenues, avec un échantillonnage ; (c) suivre régulièrement les taux de sélection par groupe ; (d) consulter le CSE (la phase pilote est concernée, comme l'a jugé le tribunal de Nanterre le 14 février 2025 dans une affaire comparable) ; (e) informer les candidats ; (f) former les recruteurs. Limite : l'outil reste utile pour des tâches de tri non décisives (planification des entretiens).

Note au décideur (extrait). « Madame la Directrice, l'outil retient 5 % des candidatures féminines contre 23,75 % des candidatures masculines. Ce n'est pas une preuve de neutralité mais le signe d'un biais hérité de nos recrutements passés. Je vous recommande de suspendre le pilote, de consulter le CSE et de ne le rétablir qu'avec une revue humaine systématique des candidatures écartées et un suivi trimestriel des taux de sélection. Vous gardez le gain de temps sans exposer l'entreprise ni les candidats. »

Cas 2 : les alertes de maintenance qui n'alertent plus

Situation. L'usine de conditionnement Ardoise Emballages utilise un système d'IA de maintenance prédictive : il analyse les capteurs des machines et déclenche des alertes de panne imminente. Sur un trimestre, 200 alertes ont été émises ; la vérification montre que 130 correspondaient à une défaillance réelle et 70 étaient de fausses alertes. Les opérateurs, lassés des interventions inutiles, ont pris l'habitude de les ignorer sauf si le chef d'équipe confirme. Une machine critique s'arrête au milieu d'une commande importante : l'alerte avait été émise, mais ignorée. Le directeur technique demande si l'on doit désactiver les alertes ou les rendre « automatiquement obligatoires ».

Questions. 1. Calculez la fiabilité des alertes. 2. Analysez les facteurs de la décision des opérateurs. 3. Que préconisez-vous ?

Corrigé.

1. Fiabilité. 130 alertes confirmées sur 200 : 65 % ; 70 fausses alertes, soit 35 %. Une alerte sur trois environ est inutile.

2. Facteurs. Informationnels : qualité de l'information (taux de fausses alertes élevé) et absence de retour d'information de l'outil sur le niveau de certitude ; cognitifs : lassitude et défiance acquise après les fausses alertes (confiance dégradée dans la machine) ; organisationnels : la confirmation par le chef d'équipe devient une norme, le coût d'une intervention inutile pèse sur les opérateurs ; processus : aucune procédure ne précise quand ignorer ou traiter une alerte. La décision de traiter l'alerte est programmable (règles) mais confiée à un jugement humain non outillé.

3. Préconisation. Ni désactiver, ni imposer sans discernement. (a) Améliorer l'outil : réglage des seuils, niveau de gravité et niveau de certitude associés à chaque alerte ; (b) définir une procédure (traitement automatique des alertes graves sur machines critiques, vérification rapide pour les autres) ; (c) mesurer en continu les alertes confirmées et fausses ; (d) associer les opérateurs à l'amélioration (leur expertise nourrit l'outil) ; (e) conserver la responsabilité humaine : un responsable identifié valide l'arrêt ou le maintien d'une machine critique. L'outil apporte de la valeur à condition qu'on lui fasse confiance à bon escient.

Conclusion argumentée. Une aide à la décision efficace n'est ni suivie aveuglément ni ignorée : sa fiabilité doit être connue, mesurée et partagée avec ceux qui l'utilisent, et la responsabilité finale reste humaine.

Plan détaillé d'une question problématisée

Sujet. « Le numérique et l'IA renforcent-ils ou affaiblissent-ils la responsabilité du décideur ? »

Problématique. En apportant des informations, des recommandations et parfois des décisions automatisées, le numérique transforme le rôle du décideur : enrichit-il sa capacité à décider et à rendre compte, ou dilue-t-il sa responsabilité ?

Plan.

• I. Le numérique et l'IA enrichissent la décision
  • Intelligence, modélisation, choix (Simon) : plus d'informations, de scénarios, de cohérence ; automatisation des décisions programmables.
  • Réduction de certains biais, traçabilité.
• II. Mais ils fragilisent la responsabilité
  • Biais algorithmiques, opacité, qualité des données ; confiance excessive ou défiance ; dilution de la responsabilité.
  • Effets sociaux et cadre européen : contrôle humain, interdictions, information des travailleurs et de leurs représentants.
• III. Reconstruire une responsabilité humaine outillée
  • Garde-fous : contrôle humain effectif, audit des données, transparence, consultation, formation ; distinguer décisions automatisables et non automatisables.
• Idée clé : l'outil déplace la responsabilité, il ne la supprime pas : le décideur doit comprendre, contrôler et assumer ce qu'il délègue.

Vocabulaire essentiel

Points clés à retenir

1. Cinq familles de facteurs explicatifs : cognitifs, organisationnels, environnementaux, informationnels, liés aux processus.
2. Les biais cognitifs : on retient la notion, pas la typologie.
3. Le numérique et l'IA interviennent à chaque phase (intelligence, modélisation, choix, mise en œuvre).
4. Distinguer aide à la décision et décision automatisée ; l'automatisation convient aux décisions programmables.
5. Risques : biais algorithmiques, opacité, qualité des données, confiance excessive ou défiance, dilution de la responsabilité, effets sociaux.
6. Le décideur et l'organisation restent responsables ; le contrôle humain est une exigence (règlement européen pour les systèmes à haut risque).
7. Le recrutement relève du haut risque ; les obligations de l'annexe III sont reportées au 2 décembre 2027 mais les interdictions (dont la reconnaissance des émotions au travail) s'appliquent depuis le 2 février 2025.

Pièges fréquents

1. Dresser une liste de biais cognitifs : hors programme ; on retient la notion.
2. Présenter l'IA comme neutre et objective : elle reflète ses données.
3. Écrire que le règlement européen sur l'IA est reporté dans son ensemble : seules certaines obligations le sont.
4. Confondre aide à la décision et décision automatisée : la responsabilité n'est pas la même.
5. Oublier le niveau de décision : l'automatisation vise surtout le programmable.
6. Nommer un outil du marché : on décrit l'usage, pas un produit.
7. Développer le droit de l'IA ou du CSE : une illustration datée suffit (UE 2 et UE 3).
8. Conclure sans condition : un usage est pertinent dans un contexte et sous conditions.

Q&R pour le tuteur IA

Q : Quelles sont les familles de facteurs explicatifs d'une décision ? R : Cognitifs (dont les biais), organisationnels, environnementaux, informationnels et liés aux processus décisionnels.

Q : Faut-il connaître les différents biais cognitifs ? R : Non. Le programme précise que les différents types de biais ne sont pas attendus ; on retient la notion de biais, ses causes et ses effets sur la décision.

Q : Qu'est-ce qu'un biais algorithmique ? R : Un déséquilibre reproduit ou amplifié par un outil à partir de données d'apprentissage non représentatives, par exemple un tri de candidatures qui défavorise un groupe sous-représenté dans les recrutements passés.

Q : Quelle différence entre aide à la décision et décision automatisée ? R : Dans l'aide à la décision, l'outil éclaire et l'humain tranche ; dans la décision automatisée, l'outil décide et agit seul, ce qui convient aux décisions programmables et exige des garde-fous.

Q : Que dit le règlement européen sur l'IA à propos du recrutement ? R : Les systèmes d'IA utilisés pour le recrutement et la gestion des travailleurs sont à haut risque ; l'employeur déployeur doit assurer un contrôle humain et informer les travailleurs et leurs représentants. Les obligations de l'annexe III ont été reportées au 2 décembre 2027.

Q : Qui est responsable d'une décision prise avec l'aide d'une IA ? R : L'organisation et le décideur humain. L'outil peut éclairer ou exécuter, il ne porte pas la responsabilité ; d'où l'exigence d'un contrôle humain effectif.