画像=ChatGPT

米国で先週、ビッグテックや金融機関、重要インフラで大規模なIT障害が相次ぎ、SNSなどではAIやハッキングを原因視する見方が広がった。13日には米連邦航空局(FAA)が全米で航空機の離陸停止を指示し、「サイバー攻撃ではないか」との憶測が拡散した。

障害報告サイト「Downdetector」には、16日までの1週間で米国内から約600万件の問題報告が寄せられた。Axiosによると、過去1年の週次ベースで最大だったという。こうした状況を受け、マークウェイン・マリン国土安全保障長官は、コードの作成や修正を担うAIシステムが今回の障害に影響した可能性にも言及した。

10月にはAIハッキングツールを使った攻撃が相次ぎ、「Black October」と呼ばれるほどだった。そのため、今回広がった懸念も一定の現実味をもって受け止められた。

ただ、現時点では一連の障害をハッキングやAIの暴走に直接結び付ける材料は確認されていない。障害が発生したMicrosoft、FAA、チェース銀行、国家安全保障局(NSA)、Apple、航空会社のUnitedはいずれも、原因がハッキングではないと明確にしている。多くは、企業や政府機関がシステム更新を進める過程で起きたトラブルだった。

Washington Postによると、政府と銀行の関係者は議員に対し、今回の障害はサイバー攻撃ではなく、AIモデルが見つけたセキュリティ脆弱性を修正するために適用したパッチが、一時的なシステム過負荷を招いたためだと説明した。

Axiosも、取材した専門家の話として、最近の障害は「ハッキングや大規模なサイバー災害とは程遠い」と報じた。多くはソフトウェアパッチの適用過程で発生した問題で、相互の関連性も薄いという。

Axiosによれば、チェースは内部ソフトウェアのバグにより他行との取引が遅延したと説明した。Unitedは「技術的問題」とのみ公表。FAAは、ネットワークへのデータ流入が集中し、老朽化した設備が処理しきれなかったとしている。Microsoftも、先行して進めていたネットワーク容量増強の過程で問題が起きたと説明した。

もっとも、今回の障害がハッキングやAIそのものによるものではないとしても、AIと無関係だと言い切れるわけではない。

一連のIT障害は、AIを使ったサイバー攻撃が続く一方で、セキュリティパッチの投入が急増する「Bugmageddon」の台頭を象徴する場面だとみる向きもある。

The Wall Street Journal(WSJ)は、「IT担当者は睡眠時間を削って対応しており、サイバーセキュリティ業務の増加で、インシデント対応の専門企業が新規案件の受け入れを断る例も出ている」と報じた。サービス障害そのものは珍しくないが、AIの普及によって状況はさらに複雑化し、サイバー脅威と、それに対応するための継続的なシステム更新との境界が見えにくくなっているという。

Washington Postも、政府と銀行の担当者から報告を受けた議会関係者の話として、「AIモデルが大規模な脆弱性を見つけ、即時のパッチ適用を求める圧力が強まった」と伝えた。システムが処理できる以上のパッチを一度に投入しているとの指摘もあった。

ホワイトハウスで国家安全保障副補佐官を務め、現在はベンチャーキャピタルAndreessen Horowitz(a16z)のゼネラルパートナーであるアン・ニューバーガー氏は、直面している問題は大きく2つあると述べた。1つは、FAAのシステムのように、以前から老朽化が指摘され、大規模更新が必要な基幹システム。もう1つは、コードの脆弱性を見つけられるAIベースの攻撃者の登場だという。

同氏は最近のWSJ寄稿でも、AIによって脆弱性の発見から攻撃までの時間が短縮されていると指摘した。人手に頼った速度では防御競争に勝てないとして、銀行や病院、電力・水道などのインフラ防衛体制を急いで見直す必要があると訴えた。

Salesforceの最高情報セキュリティ責任者(CISO)、イアン・マルホランド氏はWSJに対し、AI終末論的な報道が多いため、一般の人々はシステム障害が起きると、実際にはサイバー攻撃でなくても攻撃が原因だと受け止めがちだと語った。

AIが脆弱性を短時間で見つけられるようになったことで、修正パッチをめぐる負担とリスクは確実に高まっている。

パッチは早く適用すればよいように見えるが、実際にはそれほど単純ではない。パッチの作成が早まっても、システム全体への展開は別問題になりうる。配布の過程で障害が起きる可能性があるため、IT担当者は十分に検証したうえで適用せざるを得ない。最近のIT障害の多くも、こうしたパッチ適用の過程で発生した。WSJはサイバーセキュリティ専門家の話として、パッチが招きうる最悪の結果はサービス停止だと伝えた。

AIを活用したコーディングの拡大も、見逃せない変数として浮上している。Axiosによると、AIで開発や改修のスピードは上がった一方、新たなコードの安全性や信頼性を検証する工程がボトルネックになっている。検証体制や人員が追いつかなければ、ミスにつながりかねないという。

オハイオ州立大学の名誉教授で統合システム工学を専門とするデイビッド・ウッズ氏は、複雑なシステムがどのように崩れるかを十分に検討しないまま、より速く、より安く動かすよう迫られていると指摘した。クロスチェックやストレステスト、安全装置が次々に外されているという。

一方で、AI責任論そのものに懐疑的な見方もある。Honeycombのテクニカルフェロー、リズ・フォンジョーンズ氏は、今回の一連の事案に共通点はほとんどないとしたうえで、「いま起きている障害は、ここ数十年続いてきた連鎖障害にすぎず、AIでコードを書いて配布することとは関係がない」と述べた。

キーワード

#AI #サイバーセキュリティ #パッチ適用 #FAA #Microsoft
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.