Robloxは、8月7日(米国時間)、子供を危険にさらす通信内容を早期に検知し、迅速な調査や法執行機関への通報を可能にするAIシステム「Roblox Sentinel(通称:みまもり機能)」を発表した。このシステムはオープンソースとして公開され、他のデジタルプラットフォームでも利用できる。
みまもり機能は、潜在的なグルーミングの兆候となる、検知が困難なコミュニケーションパターンを特定するための早期警告システムであり、2024年後半からRobloxのユーザー保護のために活用されている。
Robloxの最高安全責任者であるマット・カウフマン氏は、AIがRobloxの安全対策の根幹をなしており、オープンソースコミュニティへの貢献がオンラインの安全性向上に不可欠であると述べている。これは、技術共有や他社との協力によりインターネットをより安全な場所にするため。
みまもり機能は、専門家による人的審査とAIを戦略的に組み合わせることで安全性を強化している。AIが違反の可能性があると判断したケースは専門のアナリストがレビューし、その判断はRobloxが事例や分類基準、学習データセットを継続的に調整・精査するサイクルを生み出す。この人的プロセスは、悪質な違反者による新たな手口や進化するパターンに対応するために重要。
Robloxは、革新的な技術のオープンソース化に加え、創設パートナーを務めるROOSTやTech CoalitionによるLanternプロジェクトなどのパートナーとの協業を通じて、業界全体の安全性向上に取り組んでいる。
ROOSTのプロダクト責任者であるジュリエット・シェン氏は、多くのプラットフォームが高度な安全ツールへのアクセスが不十分である現状を指摘し、Robloxがより多くのオープンツールを提供することを歓迎している。
