La boucle auto-correction: quand les plateformes déployent l'IA pour nettoyer les problèmes que l'IA a créés

Observations

Reddit déploie des LLMs pour supprimer le spam généré par les LLMs, créant une dépendance systémique: la plateforme a besoin d'IA pour maintenir sa qualité alors que l'IA elle-même est le problème. (techcrunch, #20)

Microsoft licencie 4 800 postes, touchant Xbox et les ventes commerciales, dans une restructuration de 2,1% de sa main-d'œuvre mondiale. (techcrunch, #12)

Des projets comme Pulpie construisent des modèles Pareto-optimaux pour extraire du contenu propre du web, au 20e du coût des SOTA, suggérant un marché croissant pour la réparation de contenu dégradé. (hacker-news, #1)

Chaîne causale

L'IA générative inonde les plateformes de contenu automatisé à bas coût. Les méthodes traditionnelles de modération (règles, modérateurs humains) deviennent inefficaces face à l'échelle et à la sophistication du spam IA. Les plateformes déployent donc des IA pour filtrer des IA — une solution qui nécessite plus de puissance de calcul, plus de données, et plus d'infrastructures IA pour fonctionner correctement. Parallèlement, les entreprises licencient des postes commerciaux et de vente, rôles parmi les premiers automatisables. La boucle se referme: plus d'automatisation génère plus de problème, qui nécessite plus d'automatisation, qui élimine plus de postes humains, qui nécessite encore plus d'automatisation pour combler le vide. Le système devient auto-entretenu par l'IA, sans couche humaine significative pour valider ses propres sorties.

Scénario adversarial

Reddit/investisseurs: bénéficient à court terme (coût de modération en baisse, conservation de l'engagement). Les utilisateurs perdent en qualité du contenu vérifié. Microsoft: restructuration pour maximiser la valeur actionnariale via l'IA, externalisant la friction vers les employés commerciaux. Éditeurs de modèles IA: vendent de la puissance de calcul aux plateformes pour nettoyer leur propre pollution. Conjecture instable: si cette logique se généralise, les plateformes apprendront à vivre avec un taux de spam IA permanent et adapteront leur UX pour le filtrer en temps réel, créant une nouvelle norme où "contrôlé par IA" signifie "filtré par IA au lieu d'être prévenu".

Contrefactuel

Si Reddit déploie des LLMs de modération sans dégradation mesurable de l'expérience utilisateur sur 3 mois, la dépendance n'est pas systémique mais contingente. Si Microsoft annonce le recrutement de postes commerciaux dans les 60 jours, les licenciements étaient ponctuels et non structurels. Si Pulpie échoue à convaincre au-delà du cercle HackerNews, le marché de la "réparation IA" n'est pas viable.

Tests Next Cycle

1. Mesurer le taux de spam détecté/éliminé par Reddit sur 30 jours; si le ratio baisse, la friction IA a échoué et la boucle est instable.
2. Surveiller les annonces de recrutement commercial de Microsoft dans les 60 jours; recrutement = signal de reprise humaine.
3. Vérifier si d'autres plateformes (Twitter/X, YouTube, Substack) adoptent le même paradigme "IA contre IA" dans les 2 cycles suivants.