サイバーエージェント、「ピグパーティ」でメタバース内での誘い出しの被害リスクが高いユーザーをAIで発見、啓発するシステムの本格導入を開始

サイバーエージェント<4751>は、本日（12月12日）、アバターコミュニティアプリ「ピグパーティ」において、誘い出しの被害リスクが高いユーザーをAIで発見、啓発するシステムの本格導入を開始したことを発表した。

新たに導入したシステムは「ピグパーティ」ユーザーの行動ログをAIで分析し、誘い出しなどの被害リスクに繋がる「危なっかしい行動」を特定。ユーザーに対し「あなたの遊び方はトラブルに巻き込まれる可能性がある」というメッセージを送るといった啓発を行うことで、見知らぬ相手からの誘い出しによる被害の未然防止を図るというものとなっている。

同社の情報科学領域における研究・開発組織である学際的情報科学センターと東京大学大学院工学系研究科の鳥海不二夫教授（計算社会科学）との共同研究成果をもとに、本システムを開発し、2022年2月より試験運用を開始したところ、啓発メッセージを受信した女性ユーザーの危なっかしい行動が12.7%減少、ユーザー全体では4.9%の減少となり、啓発メッセージを受信したユーザーに対しての一定の効果を確認できたことから、今回の本格導入に至った。

学際的情報科学センターでは、社外の研究機関と協働しながら、情報科学とその隣接領域の学術的な知見に基づき、主に同社のメディア事業における研究開発に取り組んでいる。なお今回の本格導入に伴い、鳥海不二夫教授が技術顧問を務めるonerootsと提携している。

警察庁が発表した2021年の犯罪情勢まとめ（暫定値）によると、メタバース空間における誘い出しなどの未成年者被害はここ数年で増加している。一般的に、プラットフォーム上での誘い出し行動は規約違反として対策されている一方、違反にまでは至らずともリスクの高い行動は多く存在している。今後、社会的にメタバースが大きく発展していくと考えられる中、2009年からサービスを展開してきた「ピグサービス」におけるユーザー行動ログを活用することで、安心・安全なメタバース市場の発展に寄与することを目指している。

「ピグパーティ」では今後も、ユーザーが安全に楽しめる健全な環境づくりを推進していくとしている。

＜試験運用概要＞
期間：2022年2月14日～2022年7月14日
対象：ピグパーティユーザー全体
算出方法：実証実験前にユーザーを啓発対象としたグループとしていないグループにランダムに分割し、それぞれのグループを比較