Le Pape, Gandalf et les machines : le manifeste littéraire improbable de Léon XIV
Il existe une tradition, dans certains coins d'internet, de citer Tolkien comme s'il avait écrit un guide de développement personnel. On le trouve sur des affiches motivationnelles, dans des fils Reddit sur la persévérance, dans le genre de discours prononcé lors de retraites d'entreprise. Le Pape Léon XIV vient de franchir un nouveau territoire, de manière assez magnifique, en convoquant la Communauté de l'Anneau contre l'intelligence artificielle.
La citation choisie par le Pape vient de Gandalf dans Le Retour du Roi : «Ce n'est pas notre rôle de maîtriser toutes les marées du monde, mais de faire ce qui est en nous pour le secours des années dans lesquelles nous sommes placés.» Il l'a utilisée pour soutenir que l'humanité devrait se concentrer sur ce qu'elle peut réellement contrôler — des réponses locales, humaines et justes à l'IA — plutôt que de tenter de gouverner toute la tempête technologique d'en haut.
C'est, en fin de compte, un conseil assez judicieux. L'encyclique de Léon XIV porte sur quelque chose de simple mais d'important : le risque que l'IA, déployée par des entreprises privées aux ressources qui «dépassent celles de nombreux gouvernements», crée de nouvelles formes d'exclusion — dans les décisions d'emploi, l'accès au crédit, les services publics — où les systèmes automatisés ne peuvent pas distinguer entre données et personnes.
Ce que Tolkien ajoute, ce n'est pas de la stratégie. Gandalf n'est pas consultant en gestion. Ce qu'il ajoute, c'est la conscience que l'on est à l'intérieur d'une histoire plus grande que soi, et que cela a des implications pour la façon dont on agit. On ne maîtrise pas la marée. On fait ce que le moment exige de soi, là où l'on se trouve.
Tolkien a écrit ce passage à l'ombre de la Seconde Guerre mondiale. Gandalf le dit à des personnages épuisés et incertains de savoir si ce qu'ils font peut compter. Le Pape suggère peut-être que nous sommes dans une position similaire. Le document avertit aussi explicitement contre un «avenir robotique» et la concentration du pouvoir technologique entre des mains privées. L'instinct littéraire est sain : les meilleurs écrivains ont toujours réfléchi à ce que signifie agir justement quand les forces en jeu sont trop grandes pour être comprises.
Lectures recommandées
Étiquettes