Google начнет маркировать изображения, созданные искусственным интеллектом, в поиске

Как опытный энтузиаст технологий с более чем двадцатилетним опытом работы за плечами, я видел эволюцию технологий от простого любопытства до неотъемлемой части нашей повседневной жизни. Последняя разработка Google по маркировке изображений, созданных искусственным интеллектом, является столь необходимым шагом на пути к прозрачности в цифровом мире.

🧐

Купил акции по совету друга? А друг уже продал. Здесь мы учимся думать своей головой и читать отчётность, а не слушать советы.

Прочитать отчет 10-K

В последние несколько месяцев изображения, созданные ИИ, доминировали в результатах поиска Google, оттесняя аутентичные результаты и затрудняя пользователям поиск нужной информации. Чтобы решить эту проблему, Google заявил во вторник, что планирует в ближайшие месяцы помечать результаты поиска изображений, созданных и измененных ИИ.

Компания планирует идентифицировать такой контент с помощью окна «Об этом изображении», и эта идентификация будет распространяться на результаты поиска, Google Lens и функции Android Circle to Search. Более того, Google интегрирует эту технологию в свои рекламные услуги и рассматривает возможность аналогичной идентификации для видео на YouTube. Тем не менее, они предоставят более подробную информацию об этом позже в этом году, как указано в их объявлении.

Google будет использовать метаданные Коалиции за происхождение и подлинность контента (C2PA), членом руководящего комитета которой они являются, для различения изображений, созданных ИИ. Эти «метаданные C2PA» служат для отслеживания происхождения изображения с подробным описанием того, когда и где оно было создано, а также инструментов и программного обеспечения, использованных в его создании.

На сегодняшний день несколько крупных игроков отрасли стали участниками C2PA (Content Authenticity Initiative), включая Amazon, Microsoft, OpenAI и Adobe. Тем не менее, похоже, что производители оборудования уделяют этому стандарту ограниченное внимание: в настоящее время его реализуют лишь несколько моделей камер Sony и Leica. Кроме того, некоторые известные разработчики инструментов генерации искусственного интеллекта еще не приняли этот стандарт, например Black Forrest Labs, создатели модели Flux, используемой Grok для генерации изображений.

За последние два года значительно возросло количество случаев онлайн-мошенничества с использованием дипфейков, созданных искусственным интеллектом. Например, финансиста из Гонконга обманом заставили перевести 25 миллионов долларов мошенникам, выдававшим себя за финансового директора компании, во время видеозвонка в феврале. Исследование, проведенное провайдером верификации Sumsub, показало, что в период с 2023 по 2024 год количество дипфейковых мошенничеств во всем мире выросло на 245%, причем только в США ошеломляющий рост составил 303%.

По словам Дэвида Фэйрмана, ИТ-директора и директора по безопасности Азиатско-Тихоокеанского региона компании Netskope, легкая доступность этих услуг облегчила киберпреступникам пополнение их рядов, поскольку им больше не требуются специальные технические навыки. Об этом он поделился с CNBC в мае.

Смотрите также

2024-09-18 01:27