L’IA et la honte prométhéenne
En relisant L’Obsolescence de l’homme de Günther Anders, une sensation étrange apparaît rapidement. Le livre date des années 1950. Il parle de la bombe atomique, de l’industrialisation, de la télévision et des grandes structures techniques du XXe siècle. Pourtant, certaines pages donnent l’impression de parler directement de l’intelligence artificielle contemporaine.
Pas parce qu’Anders aurait « prédit » l’IA. Mais parce qu’il avait identifié un mécanisme beaucoup plus profond : le moment où les capacités techniques de l’humanité dépassent sa capacité morale, sensible et mentale à comprendre ce qu’elle produit. C’est probablement ce qui rend sa pensée aussi actuelle aujourd’hui.
Le point le plus frappant est que le problème décrit par Anders n’est pas simplement celui de la machine. C’est celui du décalage grandissant entre ce que nous sommes capables de fabriquer et ce que nous sommes encore capables d’assumer humainement. Il appelait cela le « décalage prométhéen ».
Nous savons produire des systèmes d’une complexité gigantesque, mais nous ne savons plus réellement représenter leurs conséquences dans notre imagination. Et c’est exactement ce qui apparaît aujourd’hui avec l’intelligence artificielle.
Très peu de personnes comprennent réellement les systèmes qu’elles utilisent quotidiennement. Même parmi les ingénieurs, la compréhension complète des modèles à très grande échelle devient diffuse. Les outils produisent du texte, des images, des diagnostics, des décisions ou des recommandations à une vitesse et à une échelle qui dépassent déjà nos capacités humaines de vérification.
Anders expliquait déjà que la technique évolue plus vite que notre conscience morale. Nous sommes capables de fabriquer des systèmes dont les effets réels échappent ensuite à notre propre représentation mentale.
Avec l’IA, cette dissociation devient extrêmement visible :
- automatisation massive des contenus ;
- manipulation informationnelle à grande échelle ;
- dépendance cognitive ;
- standardisation du langage ;
- dilution de la responsabilité ;
- invisibilisation des infrastructures techniques ;
- consommation énergétique gigantesque masquée derrière des interfaces fluides et presque « magiques ».
Mais le concept le plus troublant chez Anders reste peut-être celui de la « honte prométhéenne ». Il désigne le moment où l’être humain commence à se sentir inférieur à ses propres machines.
Et cette sensation existe déjà. Des étudiants considèrent leur propre écriture comme insuffisante face aux IA génératives. Des créateurs doutent de leur valeur parce qu’un modèle produit plus vite qu’eux. Des travailleurs adaptent progressivement leur comportement au fonctionnement des algorithmes. Des individus délèguent peu à peu leur mémoire, leur langage, leur imagination ou leur capacité de synthèse.
Mais la honte prométhéenne va probablement encore plus loin. Elle ne signifie pas seulement que la machine paraît plus performante que nous. Elle signifie que l’humain commence à percevoir sa propre condition comme un défaut de fabrication.
Être lent. Douter. Hésiter. Oublier. Vieillir. Tâtonner.
Tout ce qui faisait autrefois partie de l’expérience humaine tend progressivement à apparaître comme une faiblesse face aux systèmes optimisés. Anders parlait déjà de cette honte d’être « né » plutôt que « fabriqué ». Honte d’être biologique, imparfait, vulnérable et mortel face à des systèmes qui donnent l’illusion d’être calculés, optimisés et potentiellement éternels.
L’IA ne remplace pas seulement certaines tâches. Elle modifie notre rapport à nous-mêmes.
Le vrai danger n’est peut-être pas que les machines deviennent humaines, mais que les humains deviennent compatibles avec les machines.
Cette phrase pourrait presque résumer l’ensemble du problème. Car Anders ne voyait pas la technique comme un simple ensemble d’outils extérieurs à l’homme. Il observait déjà comment les systèmes techniques finissent par reformater les comportements humains afin de rendre la société compatible avec leur propre logique.
Cela résonne fortement avec :
- les plateformes sociales ;
- les logiques de recommandation ;
- l’optimisation permanente ;
- les métriques d’attention ;
- et désormais les outils génératifs.
Plus les systèmes deviennent performants, plus l’humain est poussé à s’adapter à leur rythme, à leur logique et à leur manière de produire. Le problème n’est donc pas seulement technologique. Il devient anthropologique.
Et il apparaît parfois dans des scènes extrêmement simples. Quelqu’un demande aujourd’hui à une IA de rédiger un texte qu’il ne prendra même plus le temps de lire entièrement avant publication.
Cette scène contient déjà plusieurs éléments profondément andersiens :
- automatisation du langage ;
- perte du lien entre production et conscience ;
- accélération permanente ;
- délégation cognitive ;
- disparition progressive de l’expérience vécue derrière les processus techniques.
Nous produisons désormais des effets que nous ne sommes plus capables d’habiter mentalement.
Cette idée traverse toute l’œuvre d’Anders. Il insistait sur « l’écart » entre notre capacité de fabrication et notre capacité d’imagination. Nous pouvons produire la bombe atomique sans être capables d’imaginer réellement cent mille morts.
Aujourd’hui, cet écart prend une autre forme. Nous pouvons générer des millions d’images, de textes ou de vidéos, mais nous sommes incapables d’accorder une attention réelle à cette masse de production.
Nous ne produisons plus des œuvres. Nous produisons des flux.
La capacité de production dépasse désormais radicalement la capacité d’expérience. Nous fabriquons plus de contenus que nous ne pouvons humainement regarder, lire, ressentir ou mémoriser.
C’est peut-être là l’une des formes contemporaines les plus troublantes du vide industriel : une production symbolique devenue trop vaste pour être réellement vécue.
Cette idée apparaît aussi dans la question de la responsabilité. Quand une IA produit une désinformation, influence une décision politique, discrimine, remplace un emploi ou participe à une surveillance généralisée, qui est réellement responsable ?
- le développeur ?
- l’entreprise ?
- l’utilisateur ?
- le modèle ?
- le dataset ?
- l’investisseur ?
- l’État ?
Plus un système devient complexe, moins chacun se sent responsable de l’ensemble. Anders analysait déjà cette dilution morale dans les grandes structures industrielles du XXe siècle. Il observait comment le technicien, le bureaucrate ou l’exécutant pouvaient participer à des systèmes gigantesques sans jamais avoir le sentiment d’en être réellement les auteurs.
Ce mécanisme réapparaît aujourd’hui sous des formes nouvelles. L’utilisateur écrit un prompt. Il clique. Le système produit.
« Je n’ai rien fait. J’ai simplement demandé. »
Pourtant, derrière cette apparente neutralité se déploie toute une chaîne :
- infrastructures ;
- ressources ;
- modèles économiques ;
- données ;
- consommation énergétique ;
- standardisation culturelle.
L’effacement progressif de l’auteur devient aussi un effacement progressif de la responsabilité.
Il existe enfin un lien fondamental entre cette réflexion et la question écologique. L’intelligence artificielle est souvent présentée comme une technologie immatérielle, presque abstraite. Pourtant, elle repose sur une infrastructure physique gigantesque :
- data centers ;
- extraction de ressources ;
- puissance de calcul ;
- dépendance énergétique ;
- refroidissement industriel ;
- accumulation massive de données.
Pour Anders, le monde technique forme un système global dont il devient progressivement impossible de s’extraire. L’IA n’est donc pas simplement un logiciel supplémentaire. Elle constitue une nouvelle couche technique venant s’ajouter au monde déjà artificialisé dans lequel nous vivons.
Et c’est probablement là que son travail reste essentiel aujourd’hui. Parce qu’il ne posait pas seulement la question de la puissance technologique.
Il posait une question beaucoup plus dérangeante : sommes-nous encore capables d’assumer humainement ce que nous sommes techniquement capables de produire ?
Cette difficulté à penser les conséquences profondes de la technique résonne aussi avec ce qu’on appelle la loi d’Amara, formulée par Roy Amara :
« Nous avons tendance à surestimer l’effet d’une technologie à court terme et à sous-estimer son effet à long terme. »
L’intelligence artificielle semble déjà confirmer cette intuition. Le débat public reste largement focalisé sur les performances immédiates :
- remplacement de métiers ;
- vitesse de production ;
- automatisation ;
- gains de productivité ;
- génération d’images ou de textes.
Mais pendant ce temps, des transformations plus profondes commencent déjà à s’installer silencieusement :
- notre rapport à l’écriture ;
- à l’attention ;
- à la mémoire ;
- à l’apprentissage ;
- au doute ;
- et peut-être même à la pensée elle-même.
Comme souvent avec les grandes mutations techniques, nous regardons les performances immédiates pendant que les transformations anthropologiques commencent ailleurs.
Mais Anders nous obligerait probablement à aller encore plus loin. Le problème n’est peut-être pas seulement que nous inventons des technologies trop puissantes. Le problème est peut-être que notre imagination est devenue trop faible pour habiter le monde technique que nous produisons.
Nous savons fabriquer. Nous savons automatiser. Nous savons optimiser. Mais nous peinons de plus en plus à ressentir réellement les conséquences humaines de ce que nous mettons en circulation. Peut-être que résister ne consiste pas uniquement à ralentir les machines.
Peut-être faut-il surtout retrouver une capacité d’attention, de responsabilité et d’imagination à la hauteur des systèmes que nous produisons. Car le danger n’est pas seulement technique. Il apparaît lorsque l’humanité devient incapable de donner un sens humain au monde artificiel qu’elle construit elle-même.