Apple посилює правила App Store проти «нюд-генераторів» і шахрайських додатків

Автор ·

Apple оновила App Review Guidelines і чіткіше прописала заборону на додатки, що генерують або поширюють несанкціоновані інтимні зображення, зокрема створені за допомогою AI. Паралельно компанія закручує гайки для розробників, які маскують справжній функціонал своїх застосунків під час модерації.

Формально порнографічний контент в App Store був заборонений давно, але хвиля «nudification»‑додатків та інструментів для створення фейкових інтимних фото змусила Apple деталізувати вимоги. Тепер у правилах прямо згадується nonconsensual intimate imagery, включно з AI‑генерацією, як тип контенту, який платформи з UGC мають активно відсікати.

Окремий акцент — на так званих bait‑and‑switch застосунках. Це коли розробник подає на рев’ю цілком безпечний продукт, а після схвалення «докручує» приховані функції: від генерації оголених зображень до інших шкідливих можливостей. Apple уточнює: подібна тактика давно заборонена, а тепер за неї прямо загрожує видалення додатка з App Store і блокування самого розробника в Apple Developer Program.

Також оновлено Section 5 — блок, що стосується людської торгівлі та експлуатації дітей. Apple підкреслює: додатки з таким контентом не лише вилучатимуться з App Store, а й блокуватимуться в альтернативних каналах розповсюдження. Це важливий сигнал на тлі майбутньої підтримки альтернативних сторів у ЄС.

За даними Apple, лише за минулий рік компанія не допустила до користувачів понад 150 тис. додатків із проблемами безпеки та заблокувала понад 193 тис. акаунтів розробників за шахрайство й зловживання. Значну частину цих порушень становлять саме спроби приховати небезпечний функціонал до моменту проходження рев’ю.

Чому це важливо

Для українських розробників, які працюють на глобальний ринок, ці зміни — не про «ще одну формальність», а про реальні ризики втрати бізнесу. Apple чітко зсуває межу відповідальності: тепер недостатньо просто «не знати» про контент користувачів або сподіватися, що модерація якось впорається.

  • AI‑функції під особливим контролем. Якщо ви додаєте генеративні можливості (зображення, відео, аватари), потрібні технічні запобіжники проти створення nonconsensual intimate imagery: фільтри, обмеження на завантаження реальних фото, системи скарг і блокування акаунтів.
  • Жодних прихованих можливостей. Функціонал, який ви плануєте вмикати після релізу, має бути прозоро описаний і присутній у версії для рев’ю. Будь‑яка «сіра зона» тепер напряму загрожує видаленням додатка й баном акаунта.
  • UGC‑платформи мають бути готові до ескалації. Якщо Apple вкаже на порушення, реакція має бути швидкою та задокументованою: оновлення політик, посилення модерації, звіти про виправлення. Інакше це вже порушення Developer Code of Conduct.
  • Підготовка до альтернативних сторів. Навіть якщо ви розглядаєте дистрибуцію поза App Store (особливо в ЄС), варто розуміти: для контенту на кшталт CSAM чи експлуатації людей Apple обіцяє блокування й там. Сховатися «в іншому сторі» не вийде.

На мій погляд, ці оновлення — сигнал розробникам AI‑додатків: епоха «запустимо, а там розберемося з етикою» закінчується. Якщо ви будуєте сервіси з генеративним контентом, закладайте модерацію, аудит і прозорість у продукт із першого дня — це вже не конкурентна перевага, а мінімальна вимога для доступу до екосистеми Apple.

Джерело: Apple Developer (https://developer.apple.com/news/?id=vvzx6cul)