ТикТок наводнен расистскими видео, созданными искусственным интеллектом на основе Google Veo 3.

В мае компания Google представила видеогенератор Veo 3, что стало значительным шагом вперед в качестве искусственного интеллекта при создании видео и вызвало опасения из-за возможности его использования как для невинного развлечения, так и для вредоносных целей. К сожалению, кристально чистое качество этого модели можно эксплуатировать для нанесения вреда. На TikTok (который возможно скоро будет запрещен), пользователи сообщают об увеличении количества расистских видеороликов, созданных с помощью Google’s Veo 3.

💰

"Рынок красный? Это просто сезон скидок для умных инвесторов." - так говорят, чтобы не плакать. У нас — аналитика, которая помогает плакать реже.

Найти недооцененные активы

Как энтузиаст технологий, я недавно столкнулся с тревожными новостями. Сообщения указывают на то, что аккаунты в TikTok распространяли видео, созданные с помощью системы искусственного интеллекта за последние недели. Это контент, созданный ИИ, кажется использует расистские и антисемитские стереотипы, особенно против чернокожих людей, представляя их подозреваемыми в преступлениях, небрежными родителями и фанатами арбуза. Также подвергаются нападениям иммигранты и евреи. Видео длительностью не более восьми секунд несут водяную метку

Видео ниже содержит клипы из TikTok после запуска Veo 3, но следует учесть, что в нем присутствуют расистские и антисемитские материалы. Видео могут вызывать шок и беспокойство, так как они направлены на возбуждение сильных эмоций – возмущение и драма известны своей способностью увеличивать вовлеченность пользователей в социальных сетях. По данным MediaMatteers, многие из оригинальных постов собрали комментарии, подтверждающие стереотипы, представленные в видео.

В своем недавнем объявлении о новых моделях искусственного интеллекта компания Google подчеркнула обеспокоенность безопасностью, и мы наблюдали случаи, когда ИИ отказывался выполнять задачу из-за конфликта с протоколами безопасности. Это может быть огорчительным, когда намерения невинны, но система ошибочно маркирует вас как потенциальную угрозу и ограничивает вывод данных. В прошлом Google справлялась с этим достаточно хорошо, однако Veo 3 кажется еще более послушным. Во время наших тестов мы обнаружили, что легко воспроизводить видеоэлементы с помощью Veo 3.

Четкие, но не применяемые правила

На ТикТоке запрещается любое высказывание или действие, которое является дискриминационным, ненавистническим или основанным на предрассудках. Это включает контент, который непосредственно или косвенно нацелен на защищённую группу. Однако несмотря на этот всеобъемлющий запрет, кажется, что оскорбительные видео Вео 3 распространяются без каких-либо вмешательств.

На платформе TikTok используются технологии и человеческие модераторы для выявления контента, нарушающего их правила. Однако из-за огромного количества загружаемых видео бывает сложно своевременно модерировать их. Несмотря на то что некоторые противоречивые расистские видеоролики набрали популярность, представитель TikTok сообщил Ars Technica, что более половины аккаунтов, упомянутых в отчете MediaMatteers, были уже заблокированы за нарушение правил до публикации отчета, а остальные с тех пор были удалены.

Политика Google в отношении запрещенного использования явно запрещает использование их сервисов для распространения ненавистной речи, преследований, травли, запугивания или оскорблений. Видеоматериалы, обнаруженные MediaMatteers, похоже подпадают под одну или несколько из этих категорий запрета. К сожалению, из-за неоднозначности запроса и недостатка у ИИ понимания расовых нюансов (например, использования обезьян вместо людей в некоторых видео), подобный контент легко обходит правила.

Поскольку TikTok является мировым лидером среди платформ для обмена видео, естественно предположить, что подобные видео будут распространяться там в больших количествах. Однако важно отметить, что такое содержание не ограничивается только TikTok. На самом деле X (ранее известная как Twitter) приобрела репутацию платформы с минимальной модерацией, что привело к увеличению вредного контента, созданного ИИ. Эта проблема может быстро ухудшиться. Google планирует включить Veo 3 в YouTube Shorts, что потенциально облегчит распространение подобного контента на YouTube.

На платформах социальных сетей, таких как TikTok и Google, строго запрещены определенные виды контента, однако они были просмотрены миллионами раз, что говорит о неэффективности реализации этих правил. На TikTok возникают сложности с управлением огромным количеством загруженных видеозаписей, а ограничения от Google кажутся недостаточными для предотвращения создания такого контента. Мы связались с компанией Google, чтобы узнать об мерах безопасности в отношении Veo 3, но пока не получили ответа.

Как страстный поклонник генеративного ИИ, я заметил тревожную тенденцию: его неправильное использование для создания разжигающего ненависть и дискриминационного контента. Компании вроде Google регулярно обсуждают меры предосторожности, чтобы предотвратить такое злоупотребление, однако всегда остается место для улучшений. Особенно жизнь Veo 3 сделала его привлекательным инструментом для тех, кто намерен распространять ненавистные стереотипы. Я не могу не задаться вопросом, смогут ли даже самые строгие гарантии действительно предотвратить это.

Смотрите также

2025-07-03 01:24