L’inquiétude grandit au cœur de la Silicon Valley, alors même que les investissements dans l’intelligence artificielle (IA) atteignent des sommets inédits. Brendan McGuire, prêtre catholique irlandais et ancien ingénieur en cybersécurité, aujourd’hui figure centrale de la réflexion éthique du Vatican sur l’IA, alerte sur le rythme effréné de développement technologique dont même ses concepteurs commencent à redouter la portée réelle. À l’origine du code moral qui cadre le fonctionnement de Claude, l’un des modèles d’IA avancés d’Anthropic, le religieux appelle à une pause dans cette course à l’innovation qu’il juge hors de contrôle.
Sous les voûtes du Collège des Bernardins à Paris, McGuire rappelle l’ampleur du phénomène : « Nous comprenons à peine 20 % du fonctionnement de ces réseaux neuronaux », rapporte-t-il, évoquant une scène où Chris Olah, cofondateur d’Anthropic, lui a confié que même les équipes dirigeantes peinent à cerner la pleine mesure de leurs créations. « Cette chose est dangereuse, et nous ne comprenons pas ce que nous avons développé », aurait résumé Olah lors d’une rencontre confidentielle. Ce constat d’humilité contraste avec la confiance affichée il y a encore quelques années par les pionniers des technologies disruptives.
Dans un contexte économique déjà marqué par des taux d’intérêt élevés et une inflation persistante qui incitent les épargnants et institutions à repenser leur stratégie patrimoniale, la révolution de l’IA soulève de nouveaux défis. Si l’IA promet des gains de productivité majeurs pour les marchés et bouleverse déjà l’organisation du travail, la crainte d’une concentration excessive de pouvoir technologique – entre les mains de quelques géants américains ou asiatiques – se mêle aujourd’hui à celle d’une perte de contrôle sur l’outil lui-même. Face à ce double risque, McGuire et d’autres experts plaident pour la création d’une autorité supranationale, à l’image de celles qui existent dans le domaine nucléaire, afin de superviser à l’échelle mondiale le développement et l’usage de l’IA.
Le Vatican, à travers l’encyclique « Magnifica Humanitas » signée par le pape Léon XIV en mai, a appelé à « désarmer » la compétition algorithmique, mettant en garde contre une course sans garde-fous similaires à celle de l’armement nucléaire. La réaction institutionnelle reste toutefois timide. Selon McGuire, la méfiance persistante entre les grandes entreprises technologiques freine toute désescalade collective : « Le premier qui ralentit perd la compétition. Ils ne se font pas assez confiance pour convenir d’une pause efficace ». Cette incertitude rappelle, d’un point de vue économique, les situations de duopole ou d’oligopole où la coopération internationale demeure difficile à structurer durablement.
Les récentes mesures américaines, imposant la suspension de l’accès aux modèles d’IA les plus avancés d’Anthropic pour les acteurs étrangers, démontrent à quel point les technologies numériques peuvent rapidement devenir des instruments de pouvoir géopolitique. Pour l’Europe, la dépendance croissante à des outils conçus et contrôlés hors du continent représente un risque stratégique majeur, impactant potentiellement infrastructures, hôpitaux, écoles ou PME. Cet épisode met en lumière la nécessité de diversifier non seulement les sources d’approvisionnement technologique, mais aussi plus largement les outils de résilience des économies et des patrimoines face à l’incertitude globale.
Dans ce climat, les analogies entre IA et autres cycles de ruptures technologiques abondent. McGuire estime que la vague de l’IA pourrait surpasser en ampleur celles d’Internet ou des réseaux sociaux, installant durablement l’automatisation et la modélisation à grande échelle dans tous les secteurs. Devant tant de bouleversements, la question de la maîtrise humaine – et de la répartition équitable des bénéfices économiques – reste centrale. « La plus grande menace serait de confier le pilotage à une poignée d’acteurs, sans implication collective ni garde-fous éthiques partagés », avertit le prêtre irlandais. L’enjeu dépasse la seule sphère technologique : il pose la question plus large du modèle de prospérité et de préservation patrimoniale dans une ère marquée par l’incertitude systémique.
Face à la volatilité de nombreux actifs financiers et à l’émergence de cycles de crise accélérés par la technologie, certains investisseurs et épargnants soulignent déjà l’importance d’une diversification accrue, incluant le retour vers des actifs tangibles – or, immobilier, objets de collection, voire investissements en infrastructures – pour matérialiser une part de l’épargne. Si l’IA offre indéniablement des outils nouveaux pour optimiser la gestion financière ou anticiper les tendances de marché, son déploiement incontrôlé pourrait paradoxalement accentuer la perception des risques et stimuler la recherche de refuges plus traditionnels.
Pour McGuire, comme pour plusieurs figures européennes de la régulation, l’urgence est d’engager sans délai une gouvernance internationale robuste, susceptible d’éviter la concentration du pouvoir technologique et d’assurer que l’intelligence artificielle serve véritablement l’intérêt général. « Nous devons reprendre la main sur notre avenir collectif », rappelle-t-il, insistant sur l’importance du choix humain face à la tentation du laissez-faire algorithmique.
