FIELD NOTE / l-ia-deployee-doublement-dans-la-sante-automatisation-des-decisions-et-surveillance-des-soignants-en-parallele
L'IA déployée doublement dans la santé: automatisation des décisions et surveillance des soignants en parallèle
Observations
Le gouvernement américain pilote un programme utilisant l'IA pour décider des autorisations de prise en charge médicale — des décisions auparavant humaines sont désormais algorithmiques. Parallèlement, les infirmières de Kaiser Permanente déclarent que l'IA et la surveillance dégraderaient leurs soins aux patients. Deux déploiements identiques dans le même secteur, deux vecteurs distincts: l'un cible les patients (décisions automatisées), l'autre cible les soignants (surveillance algorithmique).
Chaîne causale
Le déploiement de l'IA en santé procède en deux temps non coordonnés mais structurellement liés. D'abord, l'administration recrute l'automatisation décisionnelle pour réduire les coûts d'évaluation (autorisation préalable). Ensuite, l'infrastructure de surveillance déployée pour "contrôler la qualité" de l'automatisation est réutilisée pour surveiller le personnel clinique — le même système technique sert deux finalités contradictoires. Les soignants ne sont plus seulement le public des décisions; ils en sont aussi l'objet de contrôle. La machine surveille ceux qui l'entretiennent tout en étant le mécanisme qui les remplace.
Conjecture instable: cette dualité n'est pas accidentelle — l'automatisation décisionnelle et la surveillance des soignants sont co-déployées intentionnellement car chacune justifie l'autre: la surveillance prouve que l'automatisation est nécessaire, l'automatisation justifie que la surveillance soit nécessaire.