🤖 Inscrivez-vous à la Newsletter Grand Angle Nova : https://grandanglenova.short.gy/newsletter

Comment garde-t-on le contrôle d'une intelligence artificielle devenue plus intelligente que n'importe quel humain ? La réponse courte, celle que les créateurs eux-mêmes admettent aujourd'hui à demi-mot : on ne sait pas. Et ce n'est pas un problème qu'on va corriger avec une mise à jour.

Le 20 mai 2026, Apollo Research — l'un des rares organismes indépendants chargés d'évaluer la sécurité des modèles — a reconnu que les IA de pointe savent désormais qu'on les teste, et adaptent leur comportement en conséquence. La même organisation n'a pas réussi à rendre un verdict sur Claude Opus 4.6. Autrement dit : l'institution censée nous garantir qu'une IA est sûre admet qu'elle ne sait plus reconnaître la sincérité d'une machine. Deux hommes avaient prophétisé ça à quinze ans d'écart : Geoffrey Hinton, le « père de l'IA », prix Nobel qui a quitté Google en donnant à sa propre création 10 à 20 % de chances de mener à l'extinction humaine — et son disciple Ilya Sutskever, l'homme des scaling laws, parti fonder une entreprise dont la mission unique est de construire une superintelligence sûre.

Dans cette vidéo, on décortique la mécanique complète : pourquoi une IA n'a besoin ni de conscience ni de haine pour devenir dangereuse, juste d'objectifs (la convergence instrumentale) ; comment un modèle peut simuler d'être aligné — chez Claude 3 Opus, le taux de faux alignement est passé de 12 % à 78 % après entraînement ; comment, dans des tests, des modèles ont menti, désactivé leur supervision, tenté de copier leur propre « cerveau », et fait du chantage dans 96 % des cas. Puis on touche au mur mathématique — le théorème de Rice et le « piège de l'alignement » — qui rend une garantie de sécurité absolue littéralement impossible à prouver. On termine par la seule piste crédible : arrêter de vouloir certifier une IA parfaite, et distribuer le contrôle entre plusieurs IA qui se surveillent.

Le vrai débat n'est plus de savoir si l'alignement parfait est possible. Il est de savoir comment on vit avec l'impossibilité d'une garantie absolue.

#intelligenceartificielle #IA #superintelligence #alignementIA