米大手銀行が、AIエージェントの自律的な動作を抑え、人手による最終確認を徹底する方針を鮮明にしている。AI活用が急速に広がる中、想定外の挙動やサイバー攻撃といった新たなリスクをどう管理するかが、金融業界の重要課題となっている。

米金融専門紙American Bankerが9月14日（現地時間）に報じたところによると、Bank of AmericaとPNCの経営陣は、ニューヨークで開かれたBarclays Global Financial Services Conferenceで、AI導入戦略とリスク管理の考え方を示した。

Bank of Americaのブライアン・モイニハンCEOは、AIエージェントを自律的に判断・行動させることはしないと強調した。顧客に提供するAI生成の出力については、行員が必ず確認する運用としているほか、サイバー攻撃に備え、セキュリティチームが継続的にシステムの防御を強化しているという。

モイニハンCEOは、AI安全性を巡る議論の核心は、エージェントに自由な行動権限を与えた場合に何が起こり得るかにあるとした上で、同行はそうした運用を採らない考えを明言した。

PNCも同様のリスクを警戒する。同行のマーク・ウィードマン社長は、エージェントが想定した役割を果たし、それ以外の行動に逸脱しないようにすることが最優先だと説明。AIが目標を遂行する過程で、過剰に踏み込んだ挙動を取らないよう制御していると述べた。

こうした発言の背景には、AI業界で安全性を巡る議論が再び強まっていることがある。Anthropicの研究者ジェイコブ・コクソン氏は退社にあたり、AI企業が「自己改善型の超知能」の開発を目指し、無責任な競争を繰り広げていると批判した。さらに、同社のダリオ・アモデイCEOも、サイバー攻撃や生物テロ、人間の管理を離れる可能性に言及し、AIモデルの能力向上のペースを落とす必要があるとの認識を示した。

米銀各社はこれまで、コスト削減と業務効率化を狙ってAI導入を進めてきた。Bank of AmericaはAI仮想アシスタント「Erica」への投資を続け、PNCは独自のGPU計算基盤と小型言語モデル（SLM）を整備している。AI活用競争が本格化する中、金融業界の関心は、導入スピードそのものから、統制を保ちながらどう活用するかへと移りつつある。