De Tommaso Scandroglio sur la NBQ :
Technologie, réseaux sociaux, IA : le risque que les humains deviennent des objets
La Commission théologique internationale a publié une note sur l'anthropologie chrétienne face au développement technologique. Ce document met en garde contre le transhumanisme et le posthumanisme et explique comment la généralisation des technologies a un impact négatif sur l'identité.
Le 4 mars, la Commission théologique internationale a publié une longue note intitulée « Quo vadis, humanitas ? Réflexions sur l’anthropologie chrétienne face à certains scénarios d’avenir pour l’humanité » . Cette note, divisée en 164 points, traite du développement humain en relation avec le développement technologique. La Commission théologique y examine de nombreuses questions conceptuelles, souvent abordées de manière verbeuse et tout aussi souvent hors sujet. Nous en soulignons ici deux particulièrement frappantes.
D'après ce document, deux phénomènes philosophiques, aux répercussions immédiates dans le domaine technologique, sont particulièrement dangereux pour le développement harmonieux de l'humanité : le transhumanisme et le posthumanisme. « Le transhumanisme – lit-on dans la note – est un mouvement philosophique qui part du principe que les êtres humains peuvent et doivent utiliser les ressources de la science et de la technologie pour dépasser les limites physiques et biologiques de la condition humaine, […] façonnant ainsi leur propre évolution et maximisant leur potentiel, jusqu'à remodeler l'être humain pour le rendre apte à aller au-delà » (14). Le transhumanisme, en définitive, prône l'avènement du surhomme, un homme si surpuissant qu'il deviendrait autre que lui-même. Un homme qui dépasse – et c'est là une pure dystopie – sa propre nature et se dénature de ce fait. Le posthumanisme, en revanche, rend « la frontière entre l’humain et la machine complètement fluide » (15), prêchant l’absence d’une nature spécifique pour la personne humaine : l’homme serait indéterminé et pourrait donc potentiellement fusionner avec d’autres entités dans un tout cosmique.
Dans les deux cas, on assiste à une tentative de déformer l'homme, puisqu'un « jugement négatif est porté sur la condition humaine telle qu'elle est, et finalement sur son identité . De là naît le rêve de la réinventer, un rêve motivé par l'insatisfaction face à ce qui est donné tel quel » (57). Un trait propre à toute idéologie se dessine ainsi : le rejet de la réalité pour en inventer une nouvelle. La tentation est donc de se substituer au Créateur pour devenir soi-même créateur. Le potentiel technologique actuel, désormais perçu comme omnipotent, rend le désir incessant d'autopoïèse de l'homme encore plus séduisant.
En réponse à ces deux thèses philosophiques, on peut rappeler que l'être humain doit se perfectionner non pas parce que la nature l'exige, par manque de quelque chose, mais parce que c'est ce que la nature demande. La nature lui sert de critère pour atteindre sa propre perfection, mais aussi de limite : ontologiquement, l'homme ne peut jamais être différent de ce qu'il est, ou plutôt , de qui il est. Cette perfection, explique la note, est possible non seulement en exploitant le potentiel naturel, mais surtout par la grâce divine : « Le sens juste de ce “dépassement” caractéristique de l’humain se trouve dans le “transhumain” exprimé par Dante au premier Chant du Paradis, comme dans d’autres modes d’expérience de la “divinisation”, l’effet d’une union intime avec Dieu par la grâce plutôt que le produit de techniques humaines plus ou moins élaborées. […] À ce niveau de discours, on peut mesurer la profonde distance qui existe entre le rêve de “devenir comme des dieux” (cf. Gn 3,4) d’un certain transhumanisme ou posthumanisme et le don de la “divinisation” compris comme participation à la vie divine dans l’humanité transfigurée des enfants de Dieu en Christ » (24). C’est dans la participation à l’être de Dieu – c’est ce qu’indique le terme, certes imparfait, de “divinisation” employé dans la note – que l’homme se perfectionne, c’est-à-dire qu’il devient toujours plus humain, toujours plus lui-même. Une participation imparfaite ici-bas et parfaite au Paradis : « nous serons comme lui, « Car nous le verrons tel qu’il est » (1 Jn 3, 2). Dans le transhumanisme et le posthumanisme, la quête de transcendance est vouée à l’échec, car l’homme est réduit à sa seule dimension physique, et parce qu’il se fonde uniquement sur ses capacités humaines, et surtout parce que la nature, comprise métaphysiquement, constitue une limite infranchissable. En revanche, dans le christianisme, la volonté de transcender, c’est-à-dire de dépasser non pas la condition naturelle mais la condition de la nature déchue, est accessible grâce aux forces de l’âme et à la grâce de Dieu. Un mouvement de transcendance si élevé, bien plus élevé que celui imaginé par les transhumanistes, qu’il nous rend semblables à Dieu.
Un second thème suggestif abordé par la note est celui du rapport entre technologie et identité. À cet égard, la Commission écrit que, puisque « la technologie numérique, les médias sociaux, l’intelligence artificielle [sont] des outils plus étroitement liés à notre compréhension de nous-mêmes , utilisés pour nous exprimer sous diverses formes de communication sociale, pour façonner des identités personnelles ou collectives, pour cultiver des relations avec autrui, une transformation plus intime s’opère. La technologie numérique n’est plus seulement un outil, mais constitue un véritable environnement de vie, avec sa propre manière de structurer les activités et les relations humaines » (33). L’intuition est pertinente : la technologie numérique n’est plus seulement un moyen, mais un environnement, une structure technologique déjà sociale car nous vivons en son sein, nous y sommes immergés et, par osmose, nous en assimilons le contenu. C’est une condition existentielle. Cet environnement techno-social, si omniprésent, flexible, personnalisable, englobant la quasi-totalité de nos activités et, concernant l’IA, imitant l’intelligence humaine, transforme nos identités. Le risque est que les humains, de sujets, deviennent des objets, et les instruments, d'objets, des sujets ; que les humains, d'agents, deviennent des sujets, et les instruments, d'acteurs, des sujets. En substance, le danger réside dans le fait que notre identité est façonnée par les réseaux sociaux, l'IA et les innombrables appareils que nous utilisons. Les humains deviennent ainsi des cyborgs et les machines des humanoïdes. Un véritable échange d'identités s'opère, où le réel devient virtuel et le virtuel devient réel.
La note se concentre ensuite sur une manière particulière de construire son identité par le biais des technologies numériques : « Dans de nombreux environnements de l’infosphère, on observe une insistance à être reconnu, à partager en permanence en ligne pensées et émotions, qui doivent être “reconnues par autrui”. Malgré le besoin humain légitime de reconnaissance, ce phénomène excessif est symptomatique d’une incertitude identitaire. Précisément parce que celle-ci doit être “inventée” sans instances objectives externes (nature, valeurs culturelles, rôles sociaux, coutumes partagées), l’identité est plus fragile : elle invoque la reconnaissance mais doit la négocier, l’attirer, la conquérir, quitte à crier ou à déformer la réalité. Le moi, aujourd’hui, lutte dans l’espoir d’être reconnu par quelqu’un » (43). Le moi se construit avec des milliers, des millions de « j’aime » et d’abonnés, c’est-à-dire par l’appréciation, la considération, le consensus. Vous existez si vous existez pour les autres, au-delà des paramètres objectifs tels que la nature, les valeurs culturelles, les rôles sociaux, les coutumes partagées. Le moi est alors désincarné de la nature, de son histoire, de ses relations sociales physiques, de sa famille, de ses talents. L’identité naît et meurt dans le virtuel. Vous êtes l’image que les autres ont de vous. Narcisse n'est que l'image qu'il voit se refléter dans l'eau. Et cette eau, aujourd'hui, s'appelle les réseaux sociaux.
