Bill Gates affirme que la véritable menace de l'IA aujourd'hui n'est pas une machine qui échappe à tout contrôle, mais des personnes qui utilisent déjà cette technologie pour nuire, et que les garde-fous censés les arrêter peuvent être supprimés en quelques minutes. Dans un entretien avec Jake Tapper sur CNN's State of the Union, Gates a relégué le scénario « Terminator » à dans plusieurs années et a pointé un problème plus immédiat : on ne fait pas assez pour empêcher le bioterrorisme et les cyberattaques facilités par l'IA.
Gates a décrit un dispositif de sécurité qui semble solide jusqu'à ce que quelqu'un décide de le démanteler. Selon lui, les développeurs intègrent des protections contre les cyberattaques et les armes biologiques, mais ces protections peuvent toutes être supprimées dès maintenant. C'est dans cet écart entre ce qui est techniquement possible et ce qui est réellement appliqué qu'il voit le danger se concentrer.
L'année à venir : les cyberattaques sous les projecteurs
Au cours des douze prochains mois, Gates s'attend à ce que l'usage malveillant de l'IA se manifeste de manière plus spectaculaire dans les cyberattaques. Il a esquissé un modèle économique déjà familier à quiconque suit les rançongiciels ou la manipulation de marché : menacer une cible et exiger un paiement, ou créer suffisamment de perturbation pour faire bouger un cours boursier ou faire basculer un pari. L'IA rend les deux versions moins coûteuses à exécuter et plus difficiles à tracer.
Cette prévision correspond à ce que les chercheurs en sécurité observent. En août, OpenAI a publié une lettre ouverte sur la cyberdéfense signée par plus de 100 organisations. La lettre indiquait que les cyberattaques facilitées par l'IA deviendraient beaucoup plus répandues et sophistiquées dans les mois à venir. Ce n'était pas une prédiction sur un futur lointain, mais un avertissement sur la trajectoire actuelle.
Des chiffres du terrain
Plusieurs données de l'année écoulée suggèrent que l'usage malveillant décrit par Gates est déjà en cours. La société de sécurité taïwanaise TeamT5 a constaté que des groupes liés à l'État chinois ont doublé leur volume d'attaques après avoir confié les tâches routinières à l'IA. Chainalysis a suivi une augmentation de 440 % des instructions de logiciels malveillants écrites on-chain après l'arrivée, à la mi-2025, de modèles chinois à poids ouverts sans limites sur le code malveillant. Et CrowdStrike a relié plusieurs violations de banques sud-coréennes à un attaquant probablement motivé par des intérêts financiers utilisant des outils d'IA.
Aucun de ces incidents n'a nécessité qu'une IA surpasse ses créateurs. Ils ont nécessité qu'une IA accomplisse le gros du travail plus rapidement et à grande échelle. C'est le schéma que décrit Gates : des acteurs criminels et étatiques ordinaires qui gagnent en efficacité, et non une nouvelle forme de vie numérique qui décide de passer en mode rebelle.
Pourquoi les garde-fous continuent de céder
Le problème, tel que Gates le présente, n'est pas que les mesures de sécurité n'existent pas. C'est qu'elles sont volontaires, modifiables ou simplement supprimables. Un modèle qui refuse d'aider à fabriquer une arme biologique aujourd'hui peut être affiné ou contourné demain. Les versions à poids ouverts rendent cela encore plus facile : une fois les poids diffusés, il n'y a plus d'interrupteur d'arrêt.
Cela laisse un vide réglementaire. Gates n'a pas proposé de prescription politique précise lors de l'entretien, mais son insistance sur ce qui peut être « supprimé dès maintenant » renvoie à un débat déjà en cours dans les législatures et les organismes de normalisation : faut-il imposer des limites codées en dur, des pistes d'audit ou des licences pour les modèles capables d'effectuer des tâches dangereuses ?
Pour l'instant, les garde-fous ressemblent davantage à des ralentisseurs qu'à des murs. Et les personnes qui inquiètent Gates ont déjà compris comment les contourner.
Ce qu'il faut surveiller
Le prochain test concret viendra des signataires de la lettre ouverte, qui se sont engagés à suivre et à signaler les tendances des attaques facilitées par l'IA. Leur première mise à jour publique est attendue dans les mois à venir. D'ici là, le signal le plus clair sera de savoir si le pic de 440 % de logiciels malveillants on-chain continue de grimper, ou si les défenseurs trouvent un moyen de faire tenir ces garde-fous.
