ピクシブ、コミュニケーションSNS「pixiv」がAI生成に関わる問題と対応についての報告を公開　新しい監視システムを追加導入やフィルタリング機能の改善などを発表

ピクシブは、5月9日、コミュニケーションSNS「pixiv」において、AI生成に関わる問題と対応についての報告を公開した。

現在、「pixiv」に数多く寄せられている問い合わせは以下の3点。

問題① 特定のクリエイターが不利益を被ること
問題② プログラムなどで、クリエイターの作品が不当に収集されること
問題③ AI生成作品を見たくないユーザーにも、AI生成作品が多く表示されること

これらの問題について、「pixiv」では以下の対応を行っていくことを発表した。また、関連サービスであるpixivFANBOXにおいては、追加の対応・対策を検討している。こちらについては近日中に案内するとしている。

問題① 特定のクリエイターが不利益を被ること
現在の生成AI技術では、特定のクリエイターの画像を学習して、画風を模倣した作品を生成することができる。この技術によって画像を学習されたクリエイターが、なりすまし被害を受ける、勝手に名前を使われることで人格を傷つけられるなどの不利益を被っている。
 

対応①

■サービス共通利用規約・ガイドラインを改定する
新しいサービス共通利用規約・ガイドラインでは、特定のクリエイターの画風を模倣した作品を繰り返し投稿する行為などを、禁止項目として追加し、これとともに取り締まりを強化していく。サービス共通利用規約は、pixiv及びpixiv周辺サービスすべてに適用される。5月中に改定する予定。

・サービス共通利用規約・ガイドライン類改定の事前のお知らせ
https://www.pixiv.net/info.php?id=9522

■新しい監視システムを追加導入する
現在、pixivは新しい監視システムの追加導入を準備している。これにより生成AI技術の悪用をはじめ、他人の活動をおびやかす行為、児童ポルノ、盗作など、pixiv利用上の問題がより発見しやすくなる。

問題②プログラムなどで、クリエイターの作品が不当に収集されること
生成AI技術で画風を模倣するには「学習元」と呼ばれるイラストが複数作品必要です。クリエイターの不利益となる不当な目的のため、SNSから特定のクリエイターのイラストを多く収集するケースがあります。
 

対応②

■pixivでは不当な目的のための作品収集を以前より禁止している
pixivではすでにサービス共通利用規約第14条とガイドラインにて、不当な目的のためのプログラム等を用いた作品の収集行為を禁止しており、発見し次第対処している。

■技術的対策により悪意あるアクセスの防止に努めている
現在行っている様々な対策については、以下で確認できる。これらの対策は今後も強化していく。

・ピクシブにおける不当な目的での作品取得行為に対する対策技術について
https://inside.pixiv.blog/2023/05/09/183635

問題③ AI生成作品を見たくないユーザーにも、AI生成作品が表示されること
pixivでは制作過程のすべて、もしくはほとんどをAIによって生成された作品を「AI生成作品」として投稿できる。「AI生成作品」の投稿数の多さや、フィルタリング機能の認知度の問題もあり、見たくない人にも表示されるケースがある。

対応③

■同じユーザーの作品が検索結果等を占拠しないようにします
同じ人が短時間に何回もAI生成作品を投稿すると、検索結果などで他の人が作品を見つけにくくなってしまうことがある。このような大量投稿への対策を強化する予定。

■AI生成作品のフィルタリング機能を、より利用しやすくします
すでに提供している「AI生成作品フラグ」と、それを利用したフィルタリング機能をよりわかりやすいところに表示する。

現在の表示箇所はこちらのヘルプページで確認できる。
https://www.pixiv.help/hc/ja/articles/11866167926809


なお、報告の詳細に関しては以下のページからも確認できる。
https://www.pixiv.net/info.php?id=9524