同意を得ていない性的な画像やすり替えの手口を用いるアプリに対するApp Reviewガイドラインの強化

App Reviewガイドラインは、App Storeが世界中のユーザーに提供しようと努めている安全で信頼できる体験の中核をなすものであり、その信頼の基盤となっているのが、一貫して適用される明確な基準です。

AppleのApp Reviewガイドラインに示されているように、以前よりApp Storeではポルノコンテンツを禁止しています。これには、実在する人物の性的な画像を本人の同意なく作成する「ヌード化」アプリなど、ヌードやわいせつな画像を生成するアプリも含まれます。ユーザー生成コンテンツをホストするアプリは、不適切なコンテンツをフィルタリングするとともに、ユーザーが問題のあるコンテンツを報告し、悪質なアカウントをブロックできるようにする必要があります。またApp Storeでは、隠された機能や文書化されていない機能を含むアプリも禁止されています。これには、審査時には目的を偽り、承認後にはじめて、「ヌード化」などの有害な機能を明らかにするアプリ(すり替え手法)が含まれます。

Apple は、優れたアプリとそれを支える革新的なデベロッパがApp Storeで成功することを願っています。新たなリスクやこれまでにないユーザー体験の出現をうけ、Appleでは、ユーザーとデベロッパの信頼を維持するためにApp Reviewガイドラインを進化させています。本日Appleは、プライバシー、品質、安全に関する長年の基準を今後も維持していくため、App Storeの既存の保護を強化および拡張するアップデートを公開します。

詳細については、App Reviewガイドラインをご確認ください。

変更点

1.2: 同意のない性的画像(AIツールで生成された画像を含む)が、コンテンツモデレーション要件の対象として明示的に指定されました。アプリは、これらのコンテンツを未然に防止し、プラットフォームから削除する必要があります。デベロッパが十分な保護対策を講じない場合、または通知後も違反を是正しない場合は、「デベロッパ行動規範」に対する違反と見なされ、App Storeから削除される可能性があります。

2.5.19: App Reviewプロセスでは機能を偽り、承認後にそれを変更するアプリはこれまでも禁止されていましたが、この規則はそれをさらに明確にするものです。例えば、App Reviewの申請時には含まれていなかった機能を承認後に追加するアプリは禁止されます。このような行為に関与していることが判明したアプリは、App StoreおよびApple Developer Programから削除される場合があります。

セクション5: App Storeでは、人身売買や児童の搾取(児童性的虐待コンテンツを含む)を助長するアプリを常に禁止しています。このようなコンテンツが含まれているアプリを見つけた場合はApp Storeから削除します。このようなコンテンツが含まれるアプリはApp Storeから削除され、代替配信からもブロックされることを明確にするため、App Reviewガイドラインのセクション5を更新しました。

Appleでは、Appleのガイドラインに違反しているアプリを審査し、対処するための明確なプロセスを設けることで、悪質な行為者をApp Storeから排除することに取り組んでいます。昨年は、安全に問題がある15万以上のアプリがユーザーに配信されるのを防ぎ、不正行為や悪用に関与した19万3,000を超えるデベロッパアカウントを停止しました。これらの違反は、悪意のある行為者(場合によっては組織的な詐欺グループ)に起因するものであり、有害なコンテンツを隠蔽し、アプリの承認後にはじめて有効化するような手口が使われています。こうした手口が巧妙化する中、Appleでも独自のツールやリソースを常に進化させ、この種の行為をこれまで以上に迅速に防止および摘発できるよう努めています。これらのガイドラインに違反しているアプリをが見つかった場合は、該当するアプリを削除し、それに関与しているデベロッパのアカウントを即座に停止します。