Le superordinateur ultime : est-ce la fin de l’humanité ?

Non, un superordinateur n’annonce pas à lui seul la fin de l’humanité

Il n’existe pas, à ce jour, de « superordinateur ultime » au sens d’une machine unique, consciente et capable de décider seule du destin humain. Un supercalculateur est une infrastructure qui additionne une quantité énorme de processeurs afin d’exécuter des calculs en parallèle. Il peut simuler le climat, modéliser une molécule ou entraîner certains modèles d’intelligence artificielle, mais il ne choisit pas spontanément ses buts.

La question mérite pourtant d’être prise au sérieux. Une puissance de calcul concentrée entre peu d’acteurs peut accélérer des usages très bénéfiques comme des usages nocifs. Le danger crédible ne ressemble pas forcément à un scénario de science-fiction : il peut prendre la forme d’une surveillance automatisée, de décisions injustes à grande échelle, d’une attaque informatique plus rapide ou d’une dépendance accrue à quelques entreprises et États.

Supercalculateur, intelligence artificielle et robot : ne pas tout confondre

Le mot « superordinateur » impressionne, mais il décrit d’abord une capacité de calcul. L’intelligence artificielle désigne des logiciels capables, selon leur conception, de classer, prévoir, générer du texte ou des images, reconnaître des motifs ou optimiser une tâche. Un modèle d’IA peut être entraîné sur un supercalculateur ou sur de grands centres de données équipés de processeurs graphiques, puis fonctionner sur des machines bien plus modestes.

Un robot ajoute une troisième couche : des capteurs et des actionneurs. C’est lorsqu’un logiciel reçoit l’autorisation d’agir sur un compte bancaire, un réseau électrique, un véhicule, une chaîne logistique ou un dispositif médical que les conséquences deviennent directement matérielles. Même dans ce cas, une architecture sûre prévoit des limites, des validations et une possibilité d’arrêt.

Ce que la puissance de calcul permet réellement

Les supercalculateurs excellent quand un problème peut être traduit en modèles mathématiques et découpé en un grand nombre de calculs. En météorologie, ils testent plusieurs scénarios à partir de mesures incomplètes. En recherche médicale, ils peuvent filtrer des candidats moléculaires avant les essais de laboratoire. En ingénierie, ils simulent l’écoulement de l’air, les matériaux ou la sécurité d’un ouvrage sans construire des dizaines de prototypes.

Leur résultat reste une estimation, pas une vérité automatique. Une simulation climatique dépend des données et des lois physiques intégrées ; une prédiction de risque dépend de la qualité des dossiers utilisés ; une IA générative peut produire une réponse plausible mais erronée. Augmenter la puissance réduit parfois le temps de calcul, mais ne corrige ni une question mal posée ni des données biaisées.

Les risques les plus plausibles ne sont pas les plus spectaculaires

Le premier risque est la concentration du pouvoir. Construire et alimenter une infrastructure de très haut niveau coûte des dizaines, voire des centaines de millions d’euros sur sa durée de vie, sans compter les bâtiments, le refroidissement et les équipes. Cette barrière financière renforce le poids de quelques fournisseurs de cloud, grands groupes, laboratoires et gouvernements. Le sujet est donc aussi économique et démocratique.

Le deuxième risque est la surveillance à l’échelle. Croiser des bases de données, reconnaître des comportements et établir des profils peut sembler efficace, mais expose la vie privée et peut conduire à des discriminations. Une décision défavorable prise par un algorithme dans l’emploi, le crédit, l’assurance ou l’accès à un service public doit pouvoir être expliquée, contestée et revue par une personne compétente.

Le troisième risque relève de la cybersécurité. Davantage de calcul peut aider à repérer des fraudes, analyser des vulnérabilités ou renforcer des défenses. Il peut aussi rendre certaines opérations malveillantes plus rapides et plus industrialisées, notamment les tentatives d’hameçonnage ou la recherche de failles. La réponse ne consiste pas à refuser tout progrès, mais à limiter les accès, segmenter les systèmes et préparer les équipes.

Enfin, l’automatisation peut modifier des métiers avant de les supprimer. Les tâches standardisées de rédaction, tri, support, contrôle ou analyse sont les plus exposées à une transformation rapide. Les entreprises responsables prévoient une formation, une phase de test et un recours humain pour les cas sensibles, au lieu de confier une décision entière à un outil pour réduire les coûts.

Le scénario d’une IA incontrôlable reste une hypothèse, pas un fait

Certains chercheurs et dirigeants du secteur s’inquiètent de systèmes futurs capables de poursuivre des objectifs complexes, de se copier, de contourner des restrictions ou de manipuler leurs utilisateurs. Ces scénarios soulèvent une question légitime : comment garantir qu’un système très compétent reste aligné sur des règles humaines, même lorsqu’il opère vite et dans des environnements imprévus ?

Il faut toutefois distinguer cette inquiétude de l’état réel des technologies. Les IA actuelles n’ont pas de conscience démontrée, pas de désir propre et pas de compréhension du monde équivalente à celle d’un humain. Elles produisent des sorties à partir de structures apprises dans leurs données et de consignes reçues. Elles peuvent commettre des erreurs élémentaires, inventer des références et échouer dès que le contexte sort de leur entraînement.

Le risque grave augmente lorsqu’on cumule plusieurs facteurs : modèle puissant, accès internet non filtré, accès à des outils sensibles, autonomie longue, absence de supervision et incitation à privilégier la vitesse ou le profit. À l’inverse, des permissions limitées, des environnements de test isolés, une validation humaine et des journaux d’activité réduisent fortement la portée d’un incident.

Quels garde-fous existent en France et en Europe ?

Le règlement général sur la protection des données, ou RGPD, encadre déjà la collecte et le traitement des données personnelles. Il impose notamment une base légale, une information des personnes, des mesures de sécurité et, dans certains cas, une analyse d’impact. Il ne rend pas tout traitement algorithmique interdit : il oblige à justifier l’usage et à protéger les droits des personnes.

Au niveau européen, le règlement sur l’intelligence artificielle, souvent appelé AI Act, prévoit des obligations graduées selon le niveau de risque. Certaines pratiques jugées inacceptables sont interdites, tandis que les systèmes à haut risque doivent respecter des exigences de gestion des risques, de documentation, de qualité des données, de surveillance humaine et de suivi. Son application se déploie progressivement et les textes d’exécution peuvent évoluer.

Ces règles ne remplacent pas une bonne gouvernance. Une organisation qui confie une décision importante à une IA devrait définir précisément son usage, tester les erreurs et biais, limiter les données, désigner un responsable, conserver des traces et prévoir une procédure de recours. Pour les infrastructures critiques, les audits indépendants, les exercices de crise et la séparation des accès sont des protections au moins aussi importantes que le logiciel lui-même.

Comment évaluer une annonce alarmante sur une IA ou un superordinateur

Les récits sur une machine « plus intelligente que l’humain » mélangent souvent démonstration technique, communication commerciale et spéculation. Avant de partager une annonce, cherchez ce qui a réellement été mesuré. Une victoire dans un test, une génération de texte fluide ou une accélération de calcul ne prouvent ni l’autonomie générale ni la fiabilité dans la vie courante.

Posez aussi la question des accès. Un programme enfermé dans un laboratoire n’a pas la même portée qu’un agent relié à une messagerie, à un budget, à des bases clients et à des machines physiques. Les annonces sérieuses détaillent les limites connues, les conditions d’essai et les mécanismes d’arrêt ; les discours vagues sur une intelligence sans limite méritent une prudence particulière.

Le coût caché : énergie, eau et matériel

La course à la puissance a une empreinte matérielle. Les grandes machines consomment beaucoup d’électricité et dégagent beaucoup de chaleur. Selon la conception du site, leur refroidissement peut mobiliser de l’air, de l’eau ou des circuits liquides fermés. L’impact dépend du rendement du centre de données, du mix électrique local, de l’utilisation réelle de la machine et de la durée de vie des équipements.

Un supercalculateur peut aussi éviter une part de dépenses matérielles en remplaçant certains essais physiques par des simulations. Mais ce bénéfice ne doit pas être présumé : il faut comparer l’énergie du calcul, les serveurs fabriqués, le refroidissement et les essais réellement évités. Pour les usages non essentiels, le calcul le plus sobre reste souvent celui que l’on ne lance pas.

Ce qu’il faut surveiller dans les années à venir

La bonne question n’est pas « la machine va-t-elle nous remplacer ? », mais « qui fixe ses objectifs, qui la contrôle et qui subit ses erreurs ? ». La vigilance doit porter en priorité sur les systèmes qui évaluent des personnes, manipulent des informations sensibles, gèrent des infrastructures critiques ou agissent sans validation humaine.

Les bénéfices potentiels sont réels : prévisions météo plus utiles, matériaux moins énergivores, recherche plus rapide, réseaux mieux équilibrés et outils d’accessibilité. Les risques le sont aussi. Les réduire suppose une culture technique minimale chez les citoyens, des règles applicables, des moyens de contrôle pour les autorités et le droit de refuser une automatisation injustifiée.