Точный инструмент для создания водяных знаков ChatGPT может существовать, но OpenAI не выпустит его

от

Как опытный наблюдатель с острым взглядом на технологические тенденции и сердцем, полным любопытства, я заинтригован последними усилиями OpenAI по борьбе с плагиатом ИИ. За годы наблюдения за быстрой эволюцией искусственного интеллекта и ее последствий я не могу не чувствовать смесь трепета и беспокойства, размышляя над этой новой разработкой.

Остерегайтесь плагиата, используя ChatGPT, поскольку OpenAI создал инструмент, который может идентифицировать текст, сгенерированный GPT-4, с удивительно высокой точностью, почти 100%. Однако компания уже больше года не решается сделать этот инструмент общедоступным.

По данным TechCrunch, компания принимает осторожную стратегию из-за связанных с этим сложностей и ее потенциального воздействия на более широкую среду, выходящую за рамки OpenAI, которая выходит за рамки только OpenAI. Представитель OpenAI объяснил, что, хотя техника нанесения водяных знаков, над которой они работают, кажется технологически обоснованной, существуют значительные риски, которые следует учитывать при изучении других вариантов. Эти риски включают в себя возможность манипулирования со стороны злоумышленников и неравномерное воздействие на такие группы, как не говорящие по-английски.

Как опытный писатель с многолетним опытом работы в этой области, я сталкивался с различными методами защиты интеллектуальной собственности, и ни один из них не заинтересовал меня так, как системы текстовых водяных знаков. За свою карьеру я заметил, что некоторые инструменты более приспособлены к обнаружению собственного контента, чем другие, поэтому крайне важно использовать такие меры защиты.

Как опытный исследователь с многолетним опытом работы в области искусственного интеллекта и машинного обучения, я стал свидетелем эволюции инструментов обнаружения текста с течением времени. В прошлом году я участвовал в разработке одного такого инструмента в OpenAI, но, к сожалению, он не оправдал наших ожиданий. Инструмент имел низкую степень обнаружения и имел тенденцию давать ложные срабатывания, что делало его ненадежным для широкого использования.

По данным Wall Street Journal, существуют опасения, что OpenAI может не выпустить свой инструмент из-за потенциальной негативной реакции со стороны пользователей. Опрос показал, что 69% пользователей ChatGPT считают, что этот инструмент может быть ненадежным и может привести к неправомерным обвинениям в мошенничестве. Более того, 30% пользователей заявили, что перешли бы на другую модель, если бы OpenAI реализовала эту функцию. Помимо беспокойства пользователей, компания также обеспокоена тем, что разработчики могут перепроектировать водяной знак и создать инструменты, предназначенные для его обхода.

Несмотря на продолжающиеся дискуссии о представлении своей системы водяных знаков на OpenAI, различные стартапы в области искусственного интеллекта вместо этого спешно запускают детекторы текста, такие как GPTZero, ZeroGPT, Scribbr и Writer AI Content Detector. Тем не менее, из-за часто сомнительной точности человеческий глаз продолжает оставаться нашим основным инструментом для идентификации контента, созданного ИИ, что не совсем утешительно.

Смотрите также

2024-08-05 20:57