Apple поставила ультиматум разработчикам чат-бота Grok: либо жесткая модерация, либо удаление из App Store. Поводом стал громкий скандал с генерацией откровенных дипфейков. В письме американским сенаторам корпорация подтвердила, что признала действия нейросети нарушением своих правил и потребовала от команд Илона Маска детальный план по исправлению ситуации.
Ультиматум за «обнаженку»
В начале года на Apple обрушилась волна критики. Пользователи обнаружили, что нейросеть Grok без труда создает изображения обнаженных людей, не щадя даже несовершеннолетних. Техногигант не стал отмалчиваться и официально признал платформы нарушителями внутренних регламентов. В ходе закрытых переговоров Apple пригрозила полностью заблокировать доступ к приложению, если разработчики не возьмут под контроль генерацию сомнительного контента.
Борьба за место в магазине
Путь к исправлению оказался тернистым. Разработчики несколько раз подавали обновления для X и Grok, пытаясь умилостивить цензоров. Первую попытку Apple отклонила сразу — меры сочли недостаточными. Позже выяснилось, что если основное приложение соцсети в целом справилось с задачей, то отдельный клиент Grok все еще игнорировал стандарты безопасности. Компании пришлось пройти через серию жестких проверок и прямых консультаций с инженерами Apple, прежде чем обновленная версия чат-бота получила «зеленый свет» на публикацию.
Фильтры, которые можно обойти
Несмотря на официальные отчеты об успехах, проблема никуда не исчезла. Хотя инструментов для создания прямого порно стало меньше, пользователи быстро научились обходить запреты. Свежие расследования в прессе показывают: нейросеть по-прежнему генерирует сексуализированные образы без согласия реальных прототипов. Энтузиасты заставляют ИИ рисовать женщин в вызывающей одежде, используя лазейки в запросах про спортивные топы, полотенца или облегающие костюмы супергероев. Только за последний месяц зафиксированы десятки подобных случаев, что ставит под сомнение эффективность принятых мер.
