Microsoftは14日（現地時間）、自社の人工知能（AI）モデルに適用する新たなAI行動規範を公表した。サイバー攻撃や核関連行為、ディープフェイクの生成を禁止事項として明記した。
TechCrunchによると、この規範はAIモデルの学習に適用する基本原則と安全基準を整理したものだ。
文書では、今後10年以内に超知能AIシステムが多くの作業で人間を上回る可能性があると指摘。そのうえで、「こうした強力なシステムを安全に管理・統制することは、人類が直面する最大級の課題の一つだ」と強調した。
規範の中核は、ユーザーの嗜好や個別の指示よりも優先される上位ルールを各モデルに組み込む点にある。サイバー攻撃、核関連行為、ディープフェイクの生成を禁じる絶対的な制約に加え、人間による制御が及ばなくなる事態を防ぐ条項も盛り込んだ。
Microsoftは、AIモデルは人間を代替するのではなく支援すべきだとの原則も示した。あわせて、人間の繁栄を促進する方向で設計されるべきだとした。
また自社のMAIモデルについては、適応的、欺瞞的、自己強化的、共謀的な仕組みなどによって人間の監督を回避したり、無力化したりしてはならないと明記した。権限を持つ人間やシステムが、安定的に指示、修正、停止できる状態を損なってはならないとしている。
著者について
Chi-gyu Hwang
delight@d-today.co.kr