ScatterLabは11月17日、AIキャラクターチャットサービス「zeta」の利用者保護を強化するため、CEO直轄の「トラスト&セーフティチーム」を新設したと発表した。
新組織はキム・ジョンユン代表が直接統括し、コンテンツ安全政策、AIモデル開発、コンテンツ審査を一体で運営する。主要なAI開発人材の半数は、コンテンツ審査や対話の安全性強化に向けたAIモデル開発に充てる計画だ。
同社は年内に、自社AIモデルとコンテンツ審査体制を高度化し、利用区分の細分化や年齢別の保護措置を強化する。創作コンテンツ「プロット」については、制作、公開、表示の3段階で審査を実施。年齢確認の手続きも強化し、利用者の年齢に応じたコンテンツを提供する方針だ。
AIとの対話における不適切な発話を防ぐため、自社AIモデルのガードレールも強化する。zetaでは、ScatterLabが独自開発したストーリー生成特化型の言語モデル「Spotwrite」を活用している。あわせて、対話相手がAIであることを定期的に知らせる機能も用意する。
国内の青少年利用者向けには、1日の利用時間を3時間に制限し、月間の基本課金上限を10万ウォン(約1万1000円)に設定する機能を年内に導入する予定だ。自殺や自傷に関するセンシティブなコンテンツを検知した際、利用者に適切な案内を提供する機能も開発する。
キム代表は「政策、技術、運用が一体となった保護体制を高度化し、安心して利用できるAIエンターテインメント環境を整えていく」とコメントした。
著者について