OpenAIは、ChatGPTの保護者管理機能を拡充し、未成年ユーザーのアカウントが暴力関連ポリシー違反で停止された場合、連携済みの保護者アカウントに通知する機能を追加した。あわせて、保護者管理メニューから学習モードを直接有効化できるようにしたほか、長時間利用時の休憩通知も強化した。

米ITメディアEngadgetが18日（現地時間）に報じた。既存の未成年保護機能を拡張する取り組みで、子どもが自分自身だけでなく他者にとっても危険となり得る兆候を、家族がより早く把握できるようにする狙いがあるという。

OpenAIは昨年、保護者が自身のアカウントを10代の子どものアカウントと連携できる保護者管理機能を導入した。これにより、利用時間の設定やセンシティブなコンテンツへの接触抑制に加え、チャットボットが子どもの自傷リスクを検知した際に保護者へ通知する仕組みを提供していた。今回、新たに暴力関連ポリシー違反によるアカウント停止も通知対象に加えた。

OpenAIが示した例では、保護者には子どものアカウントに関する「重要な更新」の通知が送られる。詳細画面では、子どものアカウントが暴力関連の利用ポリシーに違反したため無効化されたことを確認できるとしている。

この機能は、オンライン上の暴力監視と対応を専門とするMoonshotと共同で開発した。Moonshot創業者のビドヤ・ラマリングガム氏は、保護者が深刻な懸念をより詳しく把握できるようになり、家族が早い段階で介入し支援を求める機会が広がると説明した。そのうえで、こうした取り組みは、未成年がChatGPTをより安全に利用するための対策の一つだと述べた。

OpenAIは新たな通知機能に加え、保護者管理メニューから直接「学習モード」をオンにできる機能も追加した。学習モードは、ChatGPTが答えをすぐ示すのではなく、まずヒントを提示して学習を支援する仕組みだ。

また、長時間ChatGPTを利用する未成年ユーザーに対しては、休憩を促す通知の表示頻度を高めた。OpenAIは、未成年の技術利用習慣をより健全な方向へ導く方針としている。

今回の対応により、ChatGPTの未成年向け安全機能は、自傷リスクの検知に加え、他者への暴力リスクに関する通知へと対象を広げた。保護者管理機能に学習モードと休憩通知を組み合わせることで、未成年ユーザーの利用管理を一段と強化した形だ。