Google Gemini может читать ваши личные файлы без разрешения

Как технический энтузиаст, внимательно следящий за разработками Google в области искусственного интеллекта, я считаю, что недавнее открытие Кевина Бэнкстона о Google Gemini действительно сбивает с толку. Я помню, как в 2023 году Бард, предшественник Google Gemini, случайно обнаружил сеансы чата пользователей в результатах общедоступного поиска, что вызвало массовый резонанс из-за проблем с конфиденциальностью. И вот мы снова имеем дело с еще одним примером того, как продукты Google с искусственным интеллектом, по-видимому, вторгаются в личные документы пользователей без их согласия.

На прошлой неделе появилось тревожное открытие, которое вызвало сомнения в возможностях проекта Google Gemini. В частности, Кевин Бэнкстон, советник по управлению искусственным интеллектом в Центре демократии и технологий, обнаружил, что Gemini может автоматически генерировать сводки его конфиденциальной информации о налоговых декларациях, которую он ранее просматривал в Google Docs. Впоследствии он публично поделился этим открытием на платформе X.

Как опытный налогоплательщик с многолетним опытом работы с финансовыми документами, я был ошеломлен, когда случайно открыл свою налоговую декларацию в Google Docs и увидел неожиданное резюме от Gemini. Я не просил такого уровня помощи или вмешательства в мои личные документы. К моему разочарованию, Gemini может без предварительного согласия получать даже самые конфиденциальные файлы, к которым я получаю доступ через Документы Google.
— Кевин Бэнкстон (@KevinBankston), 10 июля 2024 г.

Теоретически ИИ не должен быть способен выполнять это действие без явного одобрения пользователя. Однако попытки ИИ отключить это поведение выявили дополнительные тревожные вопросы относительно того, какие данные генерирующие системы ИИ потребляют и обрабатывают.

Сначала Бэнкстон потратил 15 минут, пытаясь получить от ИИ указания для доступа к необходимому меню настроек, но безуспешно. Вместо этого система просто предоставила ему инструкции по управлению историей чата Близнецов. Более того, ни одна из предложенных настроек системы не решила проблему Бэнкстона. Фактически, когда он наконец нашел опцию отключения обобщений в Google Workspace, она находилась в совершенно другом меню, чем то, что указывал Gemini. По мнению самого ИИ, эти настройки должны быть доступны пользователям. Однако, поскольку это не так, Бэнкстон считает, что либо ИИ фабрикует информацию (обманывает), либо существует проблема с серверами Google, из-за которой они не работают должным образом.

Когда Бэнкстону посоветовали соблюдать обязательства Gemini Workspace по конфиденциальности, он задумался: «Что, если я не хочу, чтобы оно просматривало мои документы без спроса? Это не я запрашивал сводку моих налогов; он просто сделал это сам. решение о доступе к моим личным документам должно быть моим». Кроме того, Бэнкстон подчеркнул необходимость членства в AI Premium за 20 долларов в месяц для обеспечения расширенных гарантий защиты данных.

Предложения Google по искусственному интеллекту и раньше сталкивались с утечками данных: один примечательный инцидент произошел с Бардом (предшественником Gemini) в сентябре 2023 года, когда сеансы пользовательского чата непреднамеренно появлялись в общедоступных результатах поиска. Сотрудников Google предостерегают от ввода конфиденциальной информации в чат-боты во избежание случайного раскрытия. В июле 2022 года фирма столкнулась с судебным иском за сбор данных по обучению ИИ из общедоступного Интернета без согласия, что вызвало обеспокоенность по поводу нарушения конфиденциальности и интеллектуальной собственности.

Через некоторое время Бэнкстону удалось диагностировать проблему и определить ее причину. Он обнаружил, что если вы ранее нажимали кнопку «Близнецы» для определенного типа документа, она будет оставаться открытой всякий раз, когда вы открываете другой документ того же типа, таким образом автоматически импортируя и суммируя его.

Во время нашего разговора он использовал Gemini, чтобы обобщить отдельный PDF-файл. В результате системе, судя по всему, были предоставлены права доступа ко всем PDF-файлам, открытым во время сеанса. То же самое произошло и с Google Docs; он упомянул, что изначально он не был активирован ни в одном из его документов, но как только он включил его в одном документе, теперь он суммирует все документы, которые я открываю автоматически.

Несмотря на причину неисправности, такие действия системы ИИ вызывают серьезные опасения по поводу конфиденциальности пользователей. По словам Бэнкстона, «сколько пользователей случайно поделились с Gemini конфиденциальными документами, просто щелкнув значок звездочки, созданный искусственным интеллектом, в одном файле?»

Улучшение ответов ИИ с помощью дополнительных документов полезно. Однако получение тайного доступа без согласия владельцев документов может ухудшить доверие общественности к ИИ.

Смотрите также

2024-07-15 20:27