AIは、デジタルコンテンツの作成や共有のあり方に大きな変革をもたらしました。一方で、AIツールの進化に伴い、コンプライアンス上の課題や風評被害といった新たなリスクも生じています。レジットスクリプトでも、AIによる画像生成やディープフェイクに関連したカードネットワークの監視が強化されていることを把握しています。
レジットスクリプトでは、急速に変化するこの状況継続的に監視し、ポートフォリオに影響が及ぶ前に、疑わしいAI画像プラットフォームを特定しています。本記事では、この新たな脅威について、さらに詳しく解説します。
なぜ今、ディープフェイクやAI画像生成ツールへの監視が強まっているのか？
AI画像生成ツールとは、既存の画像を加工したり、人工知能を活用して新たな画像を生成したりするためのソフトウェアやオンラインサービスを指します。これらのプラットフォームは、実在の人物が実際には行っていない行為を、行っているように見せかける「ディープフェイク」や、AIによって生成された画像・動画・音声の作成に利用される可能性があります。特に懸念されているのは、被写体の同意を得ずに性的に露骨なコンテンツを制作するなど、不適切な用途に悪用されるケースです。
これらの画像を作成する技術は急速に進歩しており、品質と写実性が高まるにつれて偽造品の検出は一層困難になっています。 規制当局は、個人の搾取を防ぎつつ、イノベーションを阻害しないようにバランスを取るという難題に直面しています。同様に、こうしたコンテンツは、露骨で同意のない違法な画像の流通や販売を知らぬ間に助長してしまう可能性があるため、決済サービス提供会社にとっても重大なリスクをはらんでいます。
アダルトコンテンツ目的での利用を宣伝しないAI画像生成ツール
AI画像生成ツールは、成人向けコンテンツが宣伝されていないプラットフォームや、事業者が利用規約で露骨な表現を禁止している場合であっても、依然として一定のリスクを伴う可能性があります。
実際、レジットスクリプトでは、画像に示されているような一見無害に見えるウェブサイト（アダルトマーケティングの明示がないもの）に対しても、カードネットワークからの通知を確認しています。
適切な安全対策が講じられているかを確認することが難しいケースも多いため、レジットスクリプトでは、このような販売業者をリスクが高いと判断し、積極的に報告しています。
NSFW (Not Safe For Work）ディープフェイクがもたらす法的および規制上のリスクとは？
AI画像生成サービスは、NSFW（“Not Safe For Work”の略で、職場での閲覧に不適切という意味のネットスラング）ディープフェイクを容易に生み出す環境を作り出しています。これらの多くは、本人の同意を得ずに実在の人物を性的な文脈で描写する画像であり、深刻な人権侵害に繋がる恐れがあります。これは「合意のない親密な画像の流通 (NDII: Non-Consensual Distribution of Intimate Images)」 とみなされ、アメリカでは全50州でこの行為を禁止する法律が制定されています。さらに、多くの州では、ディープフェイクを対象とした追加の規制も導入されています。
実在の人物を無断で描写できる、明かに成人向けディープフェイクサービスを提供するウェブサイト
たとえウェブサイトが成人向けや違法コンテンツを明示的に宣伝していなくても、AI技術は獣姦や非同意行為を含む表現、児童性的虐待素材（CSAM）といった明かに禁止されたコンテンツの生成に悪用される恐れがあります。これらのプラットフォームに有効な安全対策が講じられているかは不明な場合が多く、その結果、ネットワーク上のブランド監視や決済サービス提供会社への制裁リスクが高まります。
法律上の一線を超えたコンテンツを提供するサイト
例外的に、児童性的虐待のコンテンツ（CSAM）などの違法なポルノコンテンツを作成する目的で、AI画像生成プラットフォームを公然と宣伝している事例も一部見受けられます。レジットスクリプトでは、こうしたサイトの検知と報告を重要な責務と考え、禁止コンテンツの報告に関しては厳格な社内基準を遵守しています。
法執行機関は、未成年者を描いたAI生成ポルノの増加を報告しています。このような素材の作成や所持は、描かれた人物が実在しない場合であっても犯罪に該当します。
レジットスクリプトで新たなリスクに先手を打つ
AIやディープフェイク技術の進化に伴い、問題のある事業者やその利用者は、これらのツールを悪用する新たな手段を模索する可能性があります。当社の規制専門家およびアナリストチームは、こうした新たなリスクに先手を打つことで、決済サービス提供会社がポートフォリオを保護できるよう支援してします。
当社のマーチャントリスクソリューションは、問題のある加盟店を検知・監視すると同時に、規制当局の監視やカードブランドの罰金リスクを軽減します。