Приложения, такие как Grok, явно запрещены правилами Google — почему оно все еще в Play Store?

от

Недавно компания Илона Маска xAI упростила для своего ИИ-бота Grok генерацию изображений, снизив некоторые ограничения безопасности. Это изменение быстро привело к всплеску неподобающих и нежелательных сексуальных изображений, появляющихся на платформе X, особенно нацеленных на женщин и пытающихся заглушить их голоса. Тревожно, но более ограниченный Grok AI также использовался для создания сексуализированных изображений детей, что повлекло за собой расследования регулирующих органов в отношении xAI. Между тем, Google имеет политики, предназначенные для предотвращения подобных проблем, но в настоящее время не применяет их.

💰

"Рынок красный? Это просто сезон скидок для умных инвесторов." - так говорят, чтобы не плакать. У нас — аналитика, которая помогает плакать реже.

Найти недооцененные активы

Правила Google чётко указывают, что приложение Grok должно было быть удалено из Play Store к этому времени, но оно всё ещё доступно. Удивительно, но оно даже имеет рейтинг для подростков, что всего на один уровень ниже рейтинга для приложения X только для взрослых. Apple продолжает предлагать Grok, хотя их политика немного более гибкая.

Apple и Google выбрали очень разные подходы к ограничению контента приложений. Apple всегда быстро удаляла приложения, заставляя разработчиков осознавать, что её правила не всегда исчерпывающие. Google, изначально очень открытая, стала более строгой с Play Store, добавляя всё больше и больше подробных объяснений в свою политику контента. В результате, правила Google теперь очень конкретные, и Grok их нарушил.

Google предоставляет страницу справки, подробно описывающую его правила в отношении «Неприемлемого контента» в Play Store. Подобно Apple, эти правила запрещают приложения с сексуальным контентом, таким как порнография. Однако, руководства Google идут дальше, перечисляя дополнительный контент и опыт, которые он считает неприемлемыми.

Play Store не допускает приложения, которые связаны или поощряют сексуальное хищничество, или распространяют откровенные сексуальные материалы без согласия. Хотя эта политика, кажется, направлена на приложения с реальным сексуальным содержанием, Google уточнил, что она также применима к приложениям искусственного интеллекта, таким как Grok. Они ясно дали понять, что это правило не ограничивается ‘реальным’ контентом и распространяется также на контент, сгенерированный искусственным интеллектом.

Политика чётко определяет запрещённый контент, охватывая такие вещи, как откровенные материалы, услуги сексуального характера и незаконные темы. После появления базовых приложений ‘nudify’ в 2020 и 2021 годах, Google уточнил, что приложения, предназначенные для цифрового раздевания людей, не допускаются в Google Play. Более недавно, в 2023 году с ростом ИИ, Google расширил политику, включив удаление приложений, содержащих сексуально откровенный контент, созданный с использованием deepfakes или аналогичных технологий без согласия.

Звучит как какие-нибудь приложения, которые вы знаете?

Архетип приложения, которое можно заблокировать, одобрен для подростков.

Правила Google для приложений, которым не разрешено присутствовать, явно соответствуют описанию приложения Grok. Google добавил эти правила, поскольку предвидел, что разработчики попытаются выпустить приложения, удаляющие одежду с помощью ИИ, в Play Store. Однако они не ожидали, что человек с самым большим состоянием в мире будет распространять такие унизительные приложения на их платформе. На данный момент Google не предпринял никаких действий для решения этой проблемы.

После критики по поводу недостаточных мер безопасности, xAI внесла некоторые изменения в свои функции редактирования изображений. Теперь для редактирования изображений напрямую в X требуется платная подписка. Однако в приложении Grok этого ограничения нет, что означает, что любой, использующий Grok, может создавать откровенный контент без согласия.

Поскольку приложение разработано для подростков, даже если родители настроили контроль на своих устройствах, пользователи в возрасте от 13 до 17 лет смогут его скачать. Оно совершенно бесплатно в использовании, и вы можете начать редактировать фотографии сразу, не нуждаясь в создании учётной записи. Приложение запрашивает год вашего рождения для подтверждения возраста, но предполагает, что пользователи будут отвечать честно.

xAI сталкивалась с проблемами, связанными с непристойным сексуальным контентом, и раньше. В прошлом году её ИИ использовался для создания фейковых обнаженных изображений Тейлор Свифт. Однако, в той ситуации пользователи просто запрашивали изображения певицы. Теперь Grok может создавать совершенно новые изображения людей, потому что он был обучен на реальных фотографиях. Что делает последнюю функцию Grok – возможность редактировать изображения – особенно тревожной, так и то, что она позволяет любому быть манипулируемым и эксплуатируемым в сгенерированном ИИ контенте.

Ars Technica обратился в Google за разъяснениями о том, почему приложение Grok остаётся доступным, несмотря на политику, запрещающую такие приложения, и почему ему по-прежнему присвоен возрастной рейтинг для подростков. Google не предоставил ответа. В настоящее время политика не соблюдается, что позволяет как подросткам, так и потенциально опасным пользователям использовать приложение для создания неприемлемого контента с участием реальных людей.

Смотрите также

2026-01-12 23:25