La monoculture d’intelligence

 

La monoculture d'intelligence

J'ai habité quelques années en pleine campagne en Seine et Marne. Et en agriculture, on sait depuis longtemps ce qui arrive aux monocultures. Un seul type de plante, cultivé intensivement sur le même sol, produit des rendements spectaculaires pendant quelques années. Puis le sol devenu support, s'appauvrit, les espèces invasives s'adaptent et le système entier devient fragile. Il suffit d'un choc pour que tout s'effondre (cf. les écrits de l'excellent Serge Zaka)

Otto Scharmer, le professeur du MIT à l'origine de la Théorie U, vient de publier dans la Sloan Management Review un article qui applique cette image aux organisations. Son diagnostic tient en une expression : nous sommes en train de construire des monocultures d'intelligence. Des organisations qui investissent massivement (cf mon dernier post) dans une seule forme d'intelligence, l'artificielle, en supposant implicitement que c'est la seule qui mérite un budget. Et comme toute monoculture, celle-ci épuise le sol dont elle dépend.

Ce que les dirigeants voient et ce qu'ils ne voient pas

Scharmer part d'une observation simple. Les dirigeants maîtrisent bien deux dimensions de leur action : le quoi (les stratégies, les décisions, les résultats) et le comment (les processus, les outils, les systèmes). Ce qui leur échappe presque toujours, c'est une troisième dimension : le lieu intérieur depuis lequel ils opèrent. La qualité de leur attention, la source de leurs intentions, l'état du collectif qui décide avec eux. C'est ce qu'il appelle le point aveugle du leadership.

Dans mon vocabulaire de praticien en Gestalt-thérapie, je dirais que les organisations savent décrire leurs comportements mais ignorent leur mode de contact (cf. les articles de Arnaud Sébal sur la Gestalt et l'art du contact). Elles produisent, elles décident, elles transforment, sans jamais interroger la qualité de présence depuis laquelle tout cela se fait.

On est d'accord, ce point aveugle existait avant l'IA. Mais l'IA, accélérateur par définition, le rend potentiellement dangereux, pour une raison précise : elle industrialise le quoi et le comment à une vitesse inédite, l'exécution est drastiquement raccourcie, ce qui rend l'écart avec la troisième dimension béant. On automatise la production de réponses dans des organisations qui n'ont jamais appris à se poser les bonnes questions.

Le renversement qui dérange

Le passage le plus fort de l'article, selon moi, tient dans un renversement. La peur standard autour de l'IA va dans un sens : les machines deviendraient trop humaines. Scharmer suggère que le danger réel va dans l'autre sens. Ce sont les humains qui deviennent machines, non pas physiquement mais épistémiquement (la façon dont on analyse et justifie nos connaissances et croyances). Nous nous mettons à concevoir la pensée comme du calcul, l'apprentissage comme du traitement de données, la créativité comme de la recombinaison, la décision comme de l'optimisation.

Ce glissement, je le vois concrètement dans mes formations IA. Plus de mille professionnels et étudiants formés à l'IA depuis 2021 et une tendance qui croit : des stagiaires qui, avant même d'avoir formulé leur propre lecture d'une situation, demandent ce que l'outil en dirait. Sympa et satisfaisant. Le réflexe de consultation précède le mouvement de pensée. Une étude du MIT Media Lab sur laquelle Scharmer s'appuie a d'ailleurs donné un nom à ce phénomène : la dette cognitive, cette érosion mesurable de l'engagement neuronal quand on délègue systématiquement l'effort de formulation à un assistant.

Personne ne choisit consciemment ce glissement. Il s'installe par petites délégations successives, chacune semble raisonnable prise isolément (je reconnais volontiers que j'ai vécu ces expériences). C'est exactement ainsi que fonctionnent les dérives systémiques : aucune décision n'est absurde, c'est leur accumulation sans conscience qui le devient.

La deuxième infrastructure

La réponse de Scharmer m'intéresse parce qu'elle est architecturale et non morale. Elle valide nos intuitions et expériences. Il ne dit pas "utilisez moins l'IA" ni "revenez à l'humain", ce qui serait un vœu pieux à ce stade des progrès apportés. Il dit : "construisez une deuxième infrastructure, parallèle à la première".

La première infrastructure, toutes les organisations la construisent en ce moment : la pile technologique, les agents, les données, les workflows automatisés. La deuxième, presque personne n'y met un euro : une infrastructure de perception collective, qui cultive la capacité d'une organisation à sentir ce qui émerge, à se voir elle-même fonctionner, à créer du neuf plutôt qu'à recombiner de l'existant. J'ai démontré dans une formation comment faire émerger 100 idées valables en moins de 20 minutes sans une ligne d'IA. Une première pour cette agence que j'ai formée ... à l'IA pour le coup.

C'est ici que je fais le lien avec ce que nous observons, Estelle Denervaud et moi, à travers COROLLES. Quand nous lisons une organisation avec les quatre dimensions du modèle, nous cartographions précisément ce que Scharmer appelle la deuxième infrastructure : la clarté d'un cap partagé, la qualité réelle des interactions du collectif, la sensibilité aux clients et aux parties prenantes, la solidité du cadre. Les organisations les plus avancées dans leur déploiement IA ne sont pas celles dont cette infrastructure invisible est la plus solide. Il n'y a tout simplement pas de corrélation. On peut avoir des agents partout et un collectif qui ne se parle plus.

Autrement dit, la maturité IA mesurée par les indicateurs habituels (adoption, cas d'usage, ROI) ne dit rien de la capacité de l'organisation à survivre à sa propre transformation. C'est précisément pour cela que nous avons conçu le diagnostic Maturité IA de COROLLES en croisant les deux lectures : où en est le project technologique (individuellement, en équipe et d'un point de vue organisationnel) et où en est le vivant qui le porte.

Ce que ça change pour un dirigeant, un manager

Concrètement, trois déplacements me semblent découler de cette lecture.

Le premier concerne les budgets (toujours le nerf de la guerre). Si votre plan de transformation IA ne contient aucune ligne dédiée au développement des capacités collectives (pas de la formation aux outils, mais du travail sur la qualité du dialogue, de l'attention, de la décision), vous construisez une monoculture. La question à poser en comité directeur ou stratégique est simple : pour chaque euro mis dans la première infrastructure, combien va dans la deuxième ?

A ma question : - De quoi a besoin mon potager pour que ça pousse bien ? - De diversité me répond Karin Mundt, pionnière de l'agroécologie.

Le deuxième concerne les indicateurs. Les dashboards mesurent la première infrastructure. La deuxième ne se mesure pas en KPIs classiques, elle se sent et elle se diagnostique. Une équipe de direction devrait consacrer autant d'énergie à évaluer la qualité de ses propres conversations qu'à suivre ses métriques d'adoption. Nous avons vu des CODIR capables de réciter leur KPI sur le bout des doigts, incapables de dire quand ils avaient eu leur dernier vrai désaccord productif.

Le troisième concerne le rapport personnel du dirigeant à l'outil. Scharmer cite Heidegger, qui observait en 1951 que "nous ne pensons pas encore". La formule paraissait obscure à l'époque et elle m'a longtemps paru obscure. Elle devient opérationnelle : chaque fois que vous demandez à une IA de penser à votre place avant d'avoir pensé par vous-même, vous répondez à l'affirmation de Heidegger par la négative. L'usage qui renforce (demander à l'outil de contredire votre analyse déjà formulée) et l'usage qui érode (lui demander l'analyse) se ressemblent en surface. Ils produisent et produiront des dirigeants et managers radicalement différents dans les prochaines années.

Je n'ai pas de certitude sur le rythme de cette érosion et je me méfie des prophéties d'effondrement (un genre littéraire et cinématographique à part entière que j'apprécie particulièrement). Mais l'image de la monoculture me semble juste sur un point : dans un cette approche monolithique, sans intervention humaine, ce système ne reste pas stable. Il régresse puis s'effondre.

Et vous, dans votre organisation, qui est en charge de la deuxième infrastructure ? Si la réponse est "personne", c'est peut-être la donnée la plus importante de votre bilan de transformation.