Моды Reddit борются за то, чтобы AI склонили к субредатам. Они могли бы использовать помощь.

от

Так или иначе, генеративный ИИ делает свой след в нашем мире. Тем не менее, есть, безусловно, пользователи Reddit, которые не любят эту разработку. Некоторые субредниты с энтузиазмом принимают изображения, видео и сочинения, сгенерированные AI, но другие предприняли шаги, чтобы запретить или, по крайней мере, ограничить посты, сделанные с использованием такой технологии из-за растущей тенденции.

Чтобы получить представление о проблемах и мыслительных процессах, лежащих в основе запретов на генеративном искусственном интеллекте, ARS Technica опросила модераторов из субреддитов, которые либо полностью, либо частично запрещают эти технологии. Почти все эти добровольцы считали, что управление против генеративного ИИ является трудоемкой борьбой, которую они ожидают, станет еще более требовательной с течением времени. Более того, многие с нетерпением ждут, чтобы Reddit разработал инструмент, который может помочь их усилиям.

Может быть сложно определить точное количество сгенерированного AI контента на Reddit, и расчет приближения потребует значительных усилий. Как заявил представитель Freepik Bella Valentini, вручную изучение бесчисленных дискуссий в Reddit занимает много времени, что делает их менее вероятностью включить Reddit в свои исследования. С другой стороны, сам Reddit не открыто не раскрывает количество постов, которые включают сгенерированный AI контент.

В более простых терминах важно уточнить, что мы не подразумеваем, что Reddit страдает от существенной проблемы с использованием ИИ. Многие субреддиты, по-видимому, достигли консенсуса относительно их подхода к созданию A-созданных AI. На сегодняшний день генеративный ИИ не заменил подлинные человеческие взаимодействия, которые способствуют популярности Reddit.

Среди модераторов широко ожидается, что в ближайшие годы будет растущее предпочтение генеративного ИИ на Reddit, что делает его решающим как для модераторов, так и для постоянных пользователей. Растущая популярность генеративного ИИ также повлияла на Reddit Inc., что привело к предоставлению лицензий на посты Reddit в 2024 году для обучения крупных языковых моделей (LLMS), которые управляют генеративным ИИ.

Одним из методов перефразирования для естественного и простого для чтения может быть:

(Например, в новостной статье о модераторах Reddit) вместо использования их настоящих имен модераторы попросили, чтобы я ссылался на них их именами пользователей Reddit для поддержания их конфиденциальности.

Генеративный ИИ не допускается

С точки зрения руководящих принципов для ИИ, которые могут генерировать содержание, некоторые сообщества Reddit имеют строгую политику без устойчивости, в то время как другие позволяют посты, которые включают человеческие элементы или являются исключительно хорошо выполненными ИИ. Модераторы в этих сообществах несут ответственность за признание контента, полученного AI, и решают, соответствует ли он приемлемым критерием для конкретного субреддите.

Многие сообщества Reddit запрещают контенту, генерируемому ИИ из -за восприятия модераторами или пользователями, что такие посты не являются вдумчивыми или оригинальными, и они чувствуют, что ИИ идет вразрез с целью этих сообществ, который заключается в том, чтобы делиться подлинными человеческими знаниями и работами.

По сути, они объяснили, что фундаментальному ИИ не хватает человеческого прикосновения в Интернете, и если бы мы его включили, это потенциально могло бы подорвать основную цель R/Askhistorians, которая взаимодействует с знающими людьми.

Целью этого субреддита является предоставление фактических исторических данных, но его модераторы обеспокоены тем, что использование генеративного ИИ может привести к неточной или вводящей в заблуждение информации. Они объяснили, что модели ИИ, такие как LLMS, иногда могут изобретать факты, ссылки на несуществующие источники или распространять дезинформацию. Пользователи, полагающиеся на такие ответы искусственного интеллекта, могут не иметь возможности ответить на последующие вопросы, поскольку им не хватает опыта. Как надежный источник исторической информации, модераторы считают, что использование ИИ без надлежащего надзора может поставить под угрозу нашу репутацию и надежность.

Как исследователь, мне сообщили Халаку, один из модераторов в сообществе R/Wheeloft -Time, что они запретили использование генеративного ИИ в их субреддите из -за их приверженности развитию подлинного дискурса. По его мнению, такой сгенерированный AI контент не может стимулировать «подлинные, органические дискуссии» и может затмить оригинальные произведения искусства, созданные настоящими художниками.

В онлайн-сообществе R/LEGO искусство, созданное AI-Create, было запрещено из-за его склонности вводить в заблуждение фанаты Lego и магазины, продающие предметы LEGO. Как заявил R/Lego Moderator Mescad, «часто люди встречаются с искусством, которое напоминало настоящие пьесы Lego на социальных сетях, таких как Instagram или Facebook. Думая, что это был настоящий продукт Lego, они посетят магазин, чтобы купить его. Чтобы сохранить нашу приверженность подлинным продуктам LEGO, мы решили не включать искусство, сгенерированные AI, в нашем сообществе.

Хотя не точно сказать, что весь Reddit выступает против генеративного ИИ, это правда, что существуют конкретные субреддиты, посвященные этой технологии. Кроме того, некоторые более широкие подредит позволяют применять генеративный ИИ различными способами.

3rdusernameive, модератор R/Consomam и R/TeamBuilder25, предпочитает сосредоточиться на запрете речи ненависти, нацистских приветствий и действиях, которые негативно влияют на субреддиты. Он заявил, что генеративный ИИ, такой как искусство ИИ, не причиняет вреда, поэтому он не будет рассматривать его запрещение на основе моральных оснований. Если бы были какие -либо запреты по моральным причинам, маловероятно, что искусство искусства будет целью.

«В подавляющем большинстве с низким содержанием ударов»

Похоже, что определенные ограничения на генеративный ИИ связаны с опасениями по поводу справедливости, поскольку создатели могут не получать адекватную оплату за свою работу, которая впоследствии используется в разработке крупной языковой модели (LLM).

Согласно Mathgeek007, сообщество в R/Deadlockthegame запрещает генеративное ИИ из -за их убеждения, что это неотъемлемый акт кражи контента. Другими словами, они рассматривают генеративный ИИ как способ взять на себя ответственность за чужую работу, не давая надлежащего признания.

Не приемлемо продавать или продвигать чужой труд, и, в некотором смысле, ИИ имитирует закономерности из других работ, которые можно рассматривать как изделия. Я нахожу менее проблематичным, если первоначальные художники признаны и вознаграждены за их вклад — есть конкретные инструменты ИИ, которые делают это.

Другие модераторы просто думают, что генеративный ИИ снижает качество содержания субреддита.

«Это часто просто выглядит не очень хорошо … искусство часто может выглядеть не подходящим», — сказал Mathgeek007.

Точно так же, как R/видео, как правило, запрещает контенту, созданному A-созданием A, из-за того, что он часто «раздражает» и «низкое качество» примерно в 99% случаев, как указано в их объявлении. В недавнем онлайн -беседе со мной R/Video Moderator Abrownn объяснил это решение.

Содержание часто спешно производится с минимальными усилиями, в первую очередь для мнений или доходов от рекламы. Создатели редко вкладывают время в уточнение или редактирование своей работы, а в полученных видео не хватает четкой повествовательной структуры. Похоже, что они просто составляют сгенерированный контент, экспортируют видео и считают их задачу завершенной.

Как аналитик, модератор из R/Fakemon сообщил мне, что в сфере художественного творения нет ничего более минималистичного или легкого, чем просто вводить слова и позволить автоматизированной системе генерировать визуальный выход.

Некоторые модераторы утверждают, что использование генеративного ИИ может позволить людям затопить субреддит с нежелательным контентом, такими как посты, которые не относятся к конкретному субреддиту или сообщениям, которые направлены на то, чтобы преследовать пользователей.

Согласно Айбулну, большая часть контента, генерируемого ИИ, в первую очередь разделена для саморекламы или финансовой выгоды. Как модераторы в Reddit, мы часто встречаем пользователей, которые без разбора публикуют свой контент, игнорируя правила и часто участвуют в оскорбительном поведении.

Модератор R/обои Subreddit, который допускает генеративный ИИ, имеет другую перспективу. Они упомянули, что генеративный ИИ открывает новые возможности для уникального контента в рамках субреддита и оспаривает опасения по поводу генеративного нарушения искусственного интеллекта в отношении человеческих художников или выполнения неполноценных качественных работ, заявив, что такие проблемы не являются исключительными для генеративного ИИ.

В нашей локальной сети мы часто сталкиваемся с созданным пользователем контентом, который можно считать подпущенными из-за таких факторов, как плохая фотография или навыки редактирования, изображения с низким разрешением и преднамеренное публикацию низкокачественного контента. Некоторые люди утверждают, что контент, созданный AI, поощряет такое поведение, но, основываясь на наших неизмеряемых наблюдениях, частота этого типа поведения-будь то, созданное человеком или сгенерировано AI-кажется, осталась относительно стабильной в нашем сообществе.

Тем не менее, наше сообщество не особенно шумно — мы в среднем в среднем около 13 постов в день. Следовательно, постепенное изменение может остаться незамеченным, похожее на лягушку в кастрюле медленно нагревающей воды, не осознавая опасности, пока не станет слишком поздно.

Генеративный ИИ «тратит наше время»

В то время как многочисленные модераторы доверяют своим навыкам, чтобы точно определить контент, генерируемый ИИ, основная задача заключается в значительном количестве времени, необходимого для определения таких постов и впоследствии удалить их.

Например, модераторы R/Askhistorians отмечают, что все запреты в их субреддите (независимо от того, чтобы быть связанными с ИИ или нет) поступают с «процессом апелляций». Проведение этих оценок и проверка потенциальных апелляций на ИИ требует значительного количества времени, что не было необходимым всего несколько лет назад.

Они добавили:

Проще говоря, основная проблема с использованием генеративного ИИ заключается в том, что он потребляет значительное количество нашего ценного времени. Это время часто тратится на оценку ответов, сгенерированных AI, имея дело с ревностными сторонниками ИИ, которые спамит наш субреддит с вводящим в заблуждение контентом, а затем участвуют в дебатах через Modmail или частные сообщения и рассматривают случаи с краями. Вместо этого это драгоценное время может быть посвящено другим инициативам SubredDit, таким как подкасты, информационные бюллетени, AMA, предложение отзывов пользователям или управление вкладами пользователей, стремящихся обогатить сообщество.

Многие другие люди, с которыми я консультировался, разделяют эту точку зрения. Чтобы проиллюстрировать, Mathgeek007 упомянул «боевых союзников» как частые препятствия. Напротив, для модератора R/Wheeloft -Time, Халаку, основной трудности в смягчении против генеративного ИИ является «разрыв поколений».

Они заявили, что члены этого поколения не находят проблем с созданием AI, рассматривая его как еще одну форму контента. Они считают, что мы чрезвычайно критичны или элитарны за то, что они ставят под сомнение, и они стремятся участвовать в дискуссиях по этой теме.

В более простых терминах некоторые люди обнаружили, что требуется меньше усилий для управления сообществами Reddit, которые запрещают содержание, генерируемое ИИ, по сравнению с теми, кто разрешает такие посты, на основе конкретных обстоятельств.

N3dsdude, модератор различных субреддитов, которые запрещают контент, сгенерированный AI, такой как R/Deadlockthegame, упомянул, что он имеет тенденцию тратить больше времени на рассмотрение каждого поста, поскольку он, по-видимому, автоматизирован. Он находит время, чтобы решить, действительно ли этот пост создан ИИ или нет.

Модератор Myarintime из Subreddit R/Lewdgames, который курирует использование генеративных изображений ИИ, подчеркнул трудности в различении контента, создаваемого людьми, использующими ИИ и инициированные ботом ИИ.

Когда начался контент, управляемый ИИ, многие автоматизированные учетные записи начали использовать искусственный интеллект, чтобы избежать наших фильтров. Следовательно, эти аккаунты начали публиковать случайные изображения, сгенерированные AI, которые, по-видимому, были связаны с играми, даже когда они обсуждали другие темы. Сложно разобрать, являются ли эти посты подлинными играми без вручного рецензирования каждого из них. Я думаю, что было бы более простым удалять любой пост с помощью AI-генерального изображения, а не определять, нажала ли кнопка человеком или нет.

Моды ожидают, что все станет хуже

Многие модераторы поделились, что идентификация постов, созданных генеративным ИИ, относительно просты для них из-за уникального стиля и предпочтительных фраз, часто используемых в текстовом сгенерировании ИИ. Некоторые также отметили, что, хотя сложнее обнаружить видео, сгенерированные AI, их все еще можно идентифицировать. Однако, поскольку генеративный ИИ продолжает продвигаться, модераторы ожидают, что их задачи могут стать все более сложными.

Со временем я заметил, что задача создания ИИ с человеческими руками, такими как лишние пальцы или другие аномалии, становится все более редкой.

Айбунн из R/Videos размышляет над вопросом о том, насколько сложно стать отличием контента Reddit от AI-созданных от подлинных постов, поскольку эти инструменты ИИ развиваются дальше и генерируют контент, который кажется все более подлинным.

Mathgeek007 добавлен:

Искусственный интеллект становится все труднее идентифицировать и распространяться быстрее. Поскольку контент, сгенерированный AI, становится обычным явлением, становятся все труднее противодействовать. Я ожидаю, что генеративный ИИ увидит существенное улучшение — пока он больше не сможет говорить, кроме повседневных творений.

Модераторы используют разные стратегии для борьбы с генеративным ИИ, но эти методы не надежны. Например, модераторы в R/Askhistorians полагаются на «программное обеспечение для обнаружения искусственного интеллекта», которое может быть ненадежным, неприятным и даже требовать оплачиваемого членства. Кроме того, их собственное суждение, полученное из опыта и опыта, также используется для определения ИИ. Между тем, N3DSDUDE упомянули такие инструменты, как Quid и Gptzero как потенциальные решения.

Многие модераторы, с которыми я консультировался, выразили свое предпочтение Reddit, чтобы сделать доступным уникальным инструментом, разработанным специально для того, чтобы помочь им в выполнении как существующих задач, так и будущих задач, связанных с контролем генеративного ИИ.

Aabrown заявил: «Я еще не нашел надежного устройства для выявления видеоклипов, полученных AI. Если бы у нас было одно, обработка сотни часов контента ежедневно будет дорогостоящей и трудоемкой. Как неоплачиваемые добровольцы, мы не будем Удостоверьтесь, чтобы не отставать от этого вида контента в масштабе.

По словам представителя Reddit, они рассматривают, как может быть разработан этот потенциальный инструмент. Важно отметить, что Reddit не запрещает использование генеративного ИИ по всем направлениям. Представитель подчеркнул, что их цель не состоит в том, чтобы создать инструмент, который уклоняется от самовыражения или творчества.

На данный момент Reddit доверяет своим модераторам, чтобы они при необходимости сняли сгенерированный AI контент. Представитель Reddit заявил об этом в недавнем сообщении.

На Reddit наша стратегия умеренности гарантирует, что подлинные люди наблюдают за содержанием, быстро устраняя любой материал, который нарушает руководящие принципы сообщества, будь то потенциально вредное или лишенное вещества, создаваемого ИИ. Мы предвидим, что эта практика сохраняется в течение некоторого времени.

Создание генеративного инструмента AI Reddit будет нелегко

Reddit подходит к развивающимся вопросам, связанным с генеративным ИИ, так же, как они справляются с другими вопросами контента, используя технологии ИИ и машинного обучения. Как заявлено их представитель, это включает в себя реализацию тестов для инструментов, способных распознавать СМИ, генерируемые ИИ, такие как A-A-созданные изображения политических деятелей.

Тем не менее, создание эксклюзивного инструмента для модераторов для идентификации контента, сгенерированного AI, может оказаться сложным, если это вообще возможно. Существующие инструменты для обнаружения генеративного ИИ имеют свои ограничения, и по мере продвижения ИИ Reddit потребует разработки более сложных инструментов, чем текущие инструменты обнаружения AI, чтобы не отставать.

Разработка такой функции будет включать в себя существенные технические возможности и потенциально может представлять значительные финансовые препятствия для платформы социальных сетей, которая совсем недавно стала прибыльной. Более того, согласно наблюдению за R/Videos Moderator Abrownn, Dete-AI-инструменты все еще находятся в зачаточном состоянии, что затрудняет построение системы, специально предназначенной для Reddit.

Даже если бы был гипотетический инструмент для модерации Reddit, задача этих модераторов останется существенной. Это важно, поскольку привлекательность Reddit связана в основном из-за создания человека, что делает эту работу решающей.

С того момента, как Reddit родился, речь шла о доверительных модераторах, и они дали понять, что они планируют придерживаться. Как объясняют модераторы R/Dune Blue_three и Herbalhippie, в интересах Reddit для большинства контента оставаться подлинными и органически созданными. В конце концов, значительная часть финансового успеха Reddit зависит от того, сколько компаний ИИ готовы встать на данные Reddit. Это значение может нанести удар, если посты на Reddit начали стать преимущественно сгенерированными AI.

Реализация технологий для предотвращения неправильного использования генеративного ИИ в сообществах Reddit действительно является значительным мероприятием. В настоящее время кажется, что модераторы-добровольцы будут продолжать играть решающую роль в управлении и сдерживании контента, созданного AI.

Смотрите также

2025-02-17 15:56