ビル・ゲイツ氏は、人工知能（AI）をめぐる現時点での真の脅威は、安全対策のないまま悪意ある人物が悪用することにあると指摘した。同氏は、AIが人間の制御を離れるリスクが現実化するのは数年先のことだとの認識を示した。
マイクロソフト創業者のゲイツ氏は、CNNの「State of the Union」でジェイク・タッパー氏のインタビューに応じた。サイバー攻撃こそが、今後1年でこの種の悪用が最も顕著に現れる分野であるとの見方も示した。
安全対策の欠如がゲイツ氏のAI警告の中心
タッパー氏は、AIを用いたバイオテロを防ぐために指導者らが十分な対策を取っているかどうかを尋ねた。ゲイツ氏は「十分とは言えない」と述べた。
開発者はサイバー攻撃やバイオテロに対して安全対策を施そうとしているが、現状ではこれらの仕組みがすべて外され得ると語った。
「…現時点での真の脅威は、AIが制御不能になることではない」とゲイツ氏は述べた。
ゲイツ氏は、悪意ある行動者、安全対策の欠如、そして最新モデルという3要素の組み合わせに言及した。同氏は、2つの形態を持つ既知のビジネスモデルがあると指摘した。
1つは、何かを実行するぞと脅し、その見返りに金銭を要求するもの。もう1つは、市場や賭け事に影響を与えるような混乱を作り出すものだ。
「悪人がいて、安全対策がなく、さらに最新のモデルが加わると、特に今後1年以内には、主にサイバー分野で多くの予想外のネガティブな出来事が起きることになる」と同氏は付け加えた。
AI業界も同様の警鐘
テック企業は、より短いタイムラインを想定している。8月にOpenAIは、100を超える組織が署名したサイバー防衛に関する公開書簡を発表した。
「今後数カ月で、AIを利用したサイバー攻撃は、はるかに広範かつ高度化することになる・・・」と同書簡は記載している。
最近の調査では、既に脆弱なガードレールが攻撃者の行動様式に影響を与えていることが示された。台湾のTeamT5は、中国の国家関与グループが日常的業務をAIに任せた後、攻撃回数が2倍になったと指摘した。
Chainalysisも、ブロックチェーン上の攻撃増加を追跡した。制限のない中国製AIモデルが2025年半ばに登場した後、チェーン上で作成されたマルウェア指示が440%急増した。
利益動機も最近の事例から浮かび上がる。CrowdStrikeは、AIツールを使ったとみられる攻撃者による韓国の複数銀行への侵入を金銭目的の可能性が高いと断定した。
