Лента AI от Meta начинает звучать как нора интернет-кролика поздней ночью.

от

Новое AI-приложение Meta сталкивается с проблемой большого количества некачественного контента – такие вещи, как сенсационные заголовки, вымышленные эмоциональные истории и посты, разработанные исключительно для получения кликов и лайков. Это вызывает опасения по поводу того, как эти AI-платформы будут контролироваться по мере того, как они становятся все больше похожими на социальные сети и открываются для общественности.

💰

"Рынок красный? Это просто сезон скидок для умных инвесторов." - так говорят, чтобы не плакать. У нас — аналитика, которая помогает плакать реже.

Найти недооцененные активы

Недавний отчёт от The Verge описывает странные посты, созданные ИИ, появляющиеся в ленте открытия Meta AI. Эти посты включают выдуманные личные истории, неточную информацию о здоровье и странный вымышленный контент, всё, по-видимому, предназначено для того, чтобы пользователи реагировали и делились. Проблема заключается в том, что Meta позволяет этим AI-беседам и подсказкам быть видимыми публично, по сути превращая эту часть приложения в типичную ленту социальных сетей.

Критики говорят, что это создало ситуацию, когда людей вознаграждают за создание шокирующего или эмоционально заряженного контента с использованием ИИ, просто чтобы привлечь внимание. Некоторые публикации похожи на типичный кликбейт, который можно увидеть в Facebook, и становится всё труднее отличить сатиру, фейковые новости и автоматически сгенерированный спам.

Стремление Meta к социальной ИИ создает непредвиденные последствия.

Эта ситуация выявляет новую проблему для компаний, занимающихся искусственным интеллектом: по мере того, как чат-боты становятся все более похожими на платформы социальных сетей – где пользователи делятся контентом, созданным ИИ, а алгоритмы решают, что будет видно – как они управляют последствиями?

Meta действительно сосредотачивается на том, чтобы сделать ИИ социальным занятием, а не просто чем-то, что помогает людям выполнять задачи. В отличие от других AI-платформ, которые сохраняют все в тайне, Meta поощряет пользователей делиться своими AI-созданиями – такими как подсказки, изображения и публикации – чтобы другие могли видеть и взаимодействовать с ними.

Хотя этот новый подход может привлечь больше пользователей, он также возвращает те же проблемы, с которыми компании социальных сетей всегда сталкивались при модерации контента. Недавние сообщения указывают на то, что лента Meta AI теперь показывает эмоционально манипулятивные истории, недостоверные советы, выдуманные истории и чрезмерно драматичные сценарии – контент, предназначенный для провоцирования реакции, а не для предоставления полезной информации.

Как исследователь, я вижу реальную проблему с пользовательским опытом. Становится все сложнее определить, что было создано человеком, а что сгенерировано или создано с помощью ИИ. Мы говорим обо всем, от личных историй и шуток до откровенно выдуманного контента. Многие эксперты опасаются, что это размытие границ подорвет онлайн-доверие, особенно по мере того, как ИИ становится лучше в создании реалистичного и эмоционально убедительного контента.

Эта ситуация подчеркивает распространенную проблему для компаний, занимающихся искусственным интеллектом: они сосредоточены на повышении вовлеченности пользователей в работу со своими инструментами, но также должны обеспечить безопасность и уместность создаваемого этими инструментами контента. По мере того, как искусственный интеллект становится более разговорчивым и социальным, системам модерации становится все труднее угнаться за этим.

Будущее социальных лент на основе искусственного интеллекта может зависеть от модерации.

Хотя Meta официально не называет это социальной сетью, её AI-лента начинает функционировать как таковая. Люди могут просматривать публичные AI-разговоры аналогичным образом, как они прокручивают публикации на платформах, таких как Instagram, Threads или Facebook.

Это важно, потому что системы, предлагающие контент, могут усилить то, что привлекает наше внимание, даже если это сделано некачественно или неправдиво. Если шокирующие или ложные публикации, созданные ИИ, постоянно получают клики, платформы могут начать отдавать предпочтение некачественному контенту, как это часто случалось с социальными сетями, которые вознаграждали сенсационность и вводящие в заблуждение заголовки.

Дискуссия вызвана растущим использованием Meta искусственного интеллекта во всех её платформах – таких как WhatsApp, Instagram и Facebook – а также в новых функциях на основе ИИ. В то время как Meta считает, что разговоры с использованием ИИ будут центральными для будущего интернета, недавняя критика указывает на то, что люди и власти могут захотеть более строгих правил относительно того, как созданный ИИ контент представляется и идентифицируется.

Новая лента от Meta, работающая на базе ИИ, даёт нам первый взгляд на то, как взаимодействуют искусственный интеллект и социальные сети – и первоначальные результаты вполне предсказуемы.

Смотрите также

2026-06-07 03:58