Bill Gates氏によると、現在におけるAIの真の脅威は制御を失って暴走する機械ではなく、すでにこの技術を悪用して危害を加えている人間たちであり、それを阻止し得るセーフガードはわずか数分で無力化できてしまうという。CNNの「State of the Union」でJake Tapper氏のインタビューに応じたGates氏は、「ターミネーター」のようなシナリオは何年も先の話であるとし、より差し迫った問題として、AIを悪用したバイオテロやサイバー攻撃を阻止するための対策が不十分である点を指摘した。
Gates氏が説明したのは、誰かが解体しようと決めるまでは強固に見えるセキュリティ構造だ。開発者はサイバー攻撃や生物兵器に対する保護機能を組み込んでいるものの、それらの保護機能は現時点で容易にすべて取り除かれてしまう可能性があると語った。技術的に可能な対策と実際に施行されている対策との間にあるギャップにこそ、危険が集中していると彼はみている。
今後の1年：焦点となるサイバー攻撃
今後12か月間で、AIの悪用が最も顕著に現れるのはサイバー攻撃だとGates氏は予想している。彼は、ランサムウェアや相場操縦を追跡している者なら誰もが熟知しているビジネスモデルを概説した。標的を脅迫して身代金を要求するか、株価を動かしたり賭けの結果を左右するほどの混乱を引き起こすという手口だ。AIはこれらの実行コストを下げ、追跡をより困難にする。
この予測は、セキュリティ研究者たちが追跡してきた動向とも一致している。8月、OpenAIは100以上の組織が署名したサイバー防衛に関する公開書簡を発表した。その書簡では、AIを活用したサイバー攻撃が今後数か月でより広範かつ高度になると警告された。これは遠い未来の予測ではなく、現在の延長線上にある危機に対する警告であった。
現場から得られたデータ
過去1年間の複数のデータポイントは、Gates氏の指摘する悪用がすでに進行中であることを示している。台湾のセキュリティ企業TeamT5は、中国政府系グループが定型業務をAIに委ねた結果、攻撃量が2倍に増加したことを突き止めた。Chainalysisは、悪意あるコードの生成制限がない中国製オープンウェイトモデルが登場した2025年半ば以降、オンチェーン上に書き込まれたマルウェア指示が440％急増したことを追跡・確認した。またCrowdStrikeは、韓国の複数の銀行で発生した不正アクセス事件について、AIツールを使用した金銭目的とみられる攻撃者との関連を特定した。
これらの事例はいずれも、AIが開発者の知能を凌駕することを求めたものではない。必要とされたのは、AIが単調な作業をより迅速に、大規模にこなすことだった。これこそGates氏が説明するパターンであり、新しい形のデジタル生命体が暴走するのではなく、通常の犯罪集団や国家関与の主体が効率性を飛躍的に高めてしまっていることこそが実態なのだ。
なぜセーフガードは破られ続けるのか
Gates氏が捉える問題の本質は、安全対策が存在しないことではなく、それらが自主的であったり、回避可能であったり、あるいは単に取り外せてしまうことにある。今日生物兵器の製造支援を拒否したモデルであっても、明日にはファインチューニングや脱獄（ジェイルブレイク）が行われる可能性がある。オープンウェイトの公開はそれをさらに容易にする——一度ウェイトが公開されれば、それを止めるキルスイッチは存在しないのだ。
これが規制の空白を生み出している。Gates氏はインタビューの中で具体的な政策的解決策を提示しなかったが、「現時点で容易に取り除かれてしまう」保護機能への懸念は、危険な作業を実行可能なモデルに対し、ハードコードされた制限や監査証跡、ライセンス取得を義務付けるべきかどうかという、立法府や標準化機関ですでに交わされている議論を指し示している。
現在のところ、セーフガードは壁というよりもスピードバンプ（減速帯）に近い。そしてGates氏が懸念する人物たちは、すでにそれを回避して進む方法を見つけ出している。
今後の注目点
次の具体的な試金石となるのは、AIを活用した攻撃の傾向を追跡・報告することを誓約した公開書簡の署名機関による取り組みだ。彼らによる最初の公式アップデートは今後数か月以内に予定されている。それまでの間、最も明確な指標となるのは、オンチェーンマルウェアの440％急増という数値がさらに上昇し続けるのか、それとも防御側がそれらのセーフガードを破られない形で定着させる手法を見出せるかどうかなるだろう。
