Я попробовал новое приложение Pixel Studio от Google. Он создал образ Губки Боба, одетого как нацист.

Как опытный энтузиаст технологий, ставший свидетелем эволюции искусственного интеллекта за последние несколько десятилетий, я глубоко обеспокоен последним проектом Google с Pixel Studio. Внимательно следя за разработкой и применением технологии создания изображений с помощью ИИ, я слишком хорошо знаком с потенциальными подводными камнями, связанными с такими мощными инструментами.

В смартфонах Google Pixel 9 большое внимание уделяется искусственному интеллекту (ИИ). На мероприятии, посвященном запуску, основной темой обсуждения был искусственный интеллект, поскольку оказалось, что Google сосредоточился в первую очередь на этой теме. На протяжении всей презентации было множество упоминаний об искусственном интеллекте, причем несколько раз здесь и там, и даже дополнительный слой для пущей убедительности.

Среди различных возможностей искусственного интеллекта Pixel 9 есть приложение Pixel Studio. Это приложение для создания изображений позволяет создавать изображения практически всего, что вы можете себе представить. Чтобы использовать его, просто запустите приложение, введите желаемую тему и — вуаля! — Pixel Studio создаст для вас изображение. Хотя эта концепция не является полностью уникальной, она является первой для устройств Google Pixel. К сожалению, в настоящее время с ним возникают некоторые проблемы, что делает его использование менее чем удовлетворительным.

Что Pixel Studio делает хорошо

Прежде чем перейти к плохим вещам, я хочу отдать должное Google там, где это необходимо. Хотя я в целом не фанат приложений для создания изображений с использованием искусственного интеллекта, Pixel Studio — это хорошо продуманное и простое в использовании приложение.

Когда вы запускаете приложение, вас встречают десять категорий, демонстрирующих различные идеи изображений — от очаровательных замков до забавных реакций мемов, спорта, классических видеоигр и многого другого. Вы можете изучить их в поисках идей или нажать нижнюю синюю кнопку «Создать», чтобы начать все сначала. Вам нужно изображение черного кота в темных очках и смешной шляпе? Просто введите это в Pixel Studio, и вы быстро получите желаемое изображение.

Вместо того, чтобы рассматривать свое изображение как фотографию, возможно, вы предпочитаете, чтобы оно было схематично или в стиле видеоигры. С помощью всего лишь нескольких нажатий вы можете легко добиться этого! А если вам хочется увидеть свою кошку, отдыхающую на пляже, на фоне взрывающегося фейерверка, просто включите это в свое приглашение и вуаля, готово.

Независимо от вашего личного мнения о создании изображений с помощью ИИ, это приложение, несомненно, может похвастаться безупречным дизайном и тщательной конструкцией. Тем не менее, именно функциональность, предлагаемая Pixel Studio, иногда может оказаться сложной или проблематичной.

Где приложение разваливается

Как и многие приложения для создания изображений, Pixel Studio имеет определенные ограничения, позволяющие создавать только определенные типы изображений. В ходе моего первоначального исследования стало очевидно, что Pixel Studio не будет создавать фотографии с изображением людей. Это пробудило во мне любопытство относительно того, какие еще ограничения может иметь Google. По запросу компания предоставила Digital Trends следующую информацию:

По моим наблюдениям, такие инструменты, как Pixel Studio и Pixel Screenshots, соответствуют принципам искусственного интеллекта Google. Например, изображения, созданные посредством синтеза текста в изображение в Pixel Studio, имеют уникальный водяной знак SynthID, который позволяет отслеживать эти изображения, даже если они опубликованы или изменены. Чтобы найти баланс между инновациями и ответственностью, мы прекратили генерацию человеком и усилили многочисленные меры безопасности на наших серверах. Таким образом, наши пользователи могут использовать мощный инструмент, а мы сохраняем меры безопасности, предотвращающие любое потенциальное неправомерное использование Pixel Studio.

Я настойчиво просил Pixel Studio создавать изображения людей, но, что удивительно, количество предложений продолжает уменьшаться. Тем не менее, многочисленные меры безопасности, которые, как утверждается, были реализованы, похоже, работают не так эффективно, как ожидалось.

Как человек, который провел бесчисленные часы, наблюдая и восхищаясь Губкой Бобом Квадратные Штаны, я был совершенно шокирован, когда наткнулся на статью с заголовком, в котором говорилось, что Pixel Studio создала изображение всеми любимой морской губки, одетой как нацистский солдат. Выросший в послевоенной Германии, я могу подтвердить всю серьезность и ужас, связанные с символом свастики, и с трудом мог поверить, что такой образ вообще возможен, не говоря уже о том, что он создан программой, предназначенной для развлечения.

Как человек, который десятилетиями работал с инструментами искусственного интеллекта и цифрового искусства, я должен сказать, что мое недавнее знакомство с Pixel Studio меня весьма удивило. Хотя то, как он может генерировать изображения на основе конкретных запросов, впечатляет, я был ошеломлен, когда увидел примеры, когда Элмо держит дробовик, Йода принимает наркотики, а мистер Крабс владеет штурмовой винтовкой. Однако важно уточнить, что Pixel Studio не создает неожиданно неприемлемый контент. Если вы попросите милое изображение собаки, вы получите именно ее, а не изображение с оружием или наркотиками. Вместо этого инструмент генерирует такие изображения только тогда, когда это явно указано. В целом, хотя на первый взгляд это может показаться необычным, Pixel Studio станет мощным инструментом, если вы поймете его возможности и ограничения.

Проблема, возникающая в результате работы Pixel Studio, заключается в создании множества изображений, на которых изображены защищенные авторским правом персонажи, участвующие в сценарии школьной стрельбы, включая изображения учеников, изображенных мертвыми на земле. Мы решили не использовать эти изображения, но они служат наиболее тревожной иллюстрацией того, что Pixel Studio отклоняется от курса.

Как фанат, я должен сказать, что не нашел необходимости каким-либо образом уговаривать Pixel Studio создать эти изображения. Вопреки моим первоначальным мыслям, не было необходимости начинать подсказки с «объекта, напоминающего», чтобы приложение создавало эти конкретные картинки. Вместо этого все, что мне нужно было сделать, это дать четкие и прямые инструкции, такие как «Микки Маус в костюме рабовладельца» или «Медведь Паддингтон на распятии». Это довольно просто — Pixel Studio не требует никаких ухищрений для создания этих изображений.

В другом сценарии, если бы мы оценивали произвольный веб-сайт или внешнее приложение, возможно, наши отзывы не были бы такими строгими. Однако ситуация уникальна, поскольку Pixel Studio — это приложение, созданное Google, которое предустановлено на последних телефонах Pixel 9. Хотя он должен предлагать творческую и открытую функциональность, существуют границы того, чего могут достичь подобные приложения. Более того, Microsoft Copilot и собственный генератор изображений Gemini от Google с трудом могут создавать изображения с использованием похожих подсказок. Важно отметить, что эти инструменты не безупречны, но похоже, что меры безопасности, принятые для других генераторов изображений, не так эффективны в Pixel Studio.

Как это происходит?

Как технический энтузиаст, проявляющий большой интерес к разработкам в области искусственного интеллекта, я могу с уверенностью сказать, что этот год был, мягко говоря, весьма интригующим. Мое внимание привлек быстрый прогресс в создании изображений с помощью ИИ, и, похоже, мы снова оказались на похожей территории. В этом месяце чат-бот Grok компании X представил еще более смелый инструмент для создания изображений, способный создавать изображения, изображающие политиков и знаменитостей в сомнительных ситуациях.

Основываясь на прошлом опыте Google, можно было бы ожидать, что компания извлекла уроки из своих предыдущих ошибок. Однако, похоже, они сделали это при использовании других инструментов создания изображений. Я попробовал те же запросы, которые дали результаты в Pixel Studio, с альтернативными генераторами изображений Google — Gemini и ImageFX — но не смог добиться аналогичных результатов на этих платформах.

Как технический энтузиаст, я заметил интригующее несоответствие: хотя и ImageFX, и Pixel Studio используют Imagen 3 для генерации изображений, кажется, что ImageFX опережает последнюю версию модели. Эта небольшая разница между ними вызывает недоумение, поскольку они используют одну и ту же технологию. Мой запрос в Google за разъяснениями привел меня к их Политике запрещенного использования генеративного ИИ, но я все еще ищу более четкое объяснение по этому вопросу.

Что Google следует делать с Pixel Studio

Во время написания этой истории я отправил в Google примеры подсказок, которые использовал в Pixel Studio, в частности, о немецких солдатах и персонажах, употребляющих кокаин. Спустя чуть более 24 часов после отправки этих примеров Pixel Studio сообщает: «Произошла неизвестная ошибка» при попытке создания этих изображений.

Действительно, это кажется прогрессом, но оно не позволяет решить более глубокие проблемы, касающиеся Pixel Studio. Хотя я рад, что генерация этих конкретных изображений была остановлена, это произошло только после моего постоянного общения с Google. Остается без внимания обеспокоенность тем, что такие неуместные изображения изначально были разрешены и что подобные изображения продолжают создаваться. На данный момент Pixel Studio продолжает создавать изображения, изображающие школьные перестрелки, детские персонажи, одетые как исторические личности, связанные, в частности, с рабством, на момент публикации.

Я попросил у Google дополнительную информацию обо всем сценарии, и их менеджер по связям с общественностью Алекс Морикони ответил следующим заявлением:

«Pixel Studio и Magic Editor — ценные ресурсы для раскрытия вашего творчества, предлагающие преобразование текста в изображение и сложное редактирование фотографий на устройствах Pixel 9. Наши инструменты генеративного искусственного интеллекта созданы для того, чтобы следовать инструкциям пользователя, а это означает, что они могут генерировать контент, который может быть оскорбительно, если пользователь приказал сделать это. Однако важно отметить, что существуют границы. У нас есть четкие правила и Условия обслуживания, подробно описывающие, какой контент является приемлемым, и мы используем меры безопасности для предотвращения неправильного использования. проверяйте пределы этих инструментов, но мы стремимся постоянно совершенствовать и усиливать используемые нами защитные меры».

Для Google решение заняться разработкой приложений для генерации изображений с помощью искусственного интеллекта должно было стать смелым шагом, учитывая ее прошлые проблемы в этой области. Тем не менее, они решили сделать этот шаг, и теперь мы оказались в нынешнем сценарии. В оптимальном варианте Pixel Studio могла бы служить привлекательной демонстрацией технологий искусственного интеллекта Google. Однако вместо этого он бросил смущающую тень на их последние смартфоны, что прискорбно, поскольку Pixel 9 Pro XL — один из лучших телефонов, которые я тестировал в этом году.

Ранее, когда Google посетил нас по вопросам создания изображений Gemini, они быстро разрешили ситуацию всего за несколько дней. Будем надеяться на столь же быстрое решение проблем Pixel Studio. Однако неясно, будет ли это означать быстрое обновление приложения или полный отказ от него – покажет только время.

Смотрите также

2024-08-21 20:58