Microsoft пытается предотвратить «новые угрозы безопасности» агентов искусственного интеллекта в Windows 11.

На протяжении нескольких лет Microsoft интегрирует искусственный интеллект в Windows 11. Теперь они идут ещё дальше, внедряя как генеративный искусственный интеллект, так и более продвинутый ‘агентный’ искусственный интеллект непосредственно в основу операционной системы. Недавняя тестовая сборка Windows 11 включает в себя новую настройку для включения ‘экспериментальных агентных функций’, которые приводят в действие функцию под названием Copilot Actions. Microsoft также опубликовала подробное объяснение того, как будут функционировать эти функции.

🧐

Купил акции по совету друга? А друг уже продал. Здесь мы учимся думать своей головой и читать отчётность, а не слушать советы.

Прочитать отчет 10-K

Вы, вероятно, слышали термин «agentic», используемый Microsoft при обсуждении будущего Windows 11. Проще говоря, эти «агенты» предназначены для автоматического выполнения задач в фоновом режиме, освобождая вас для сосредоточения на других вещах. Microsoft представляет их помогающими в повседневных задачах, таких как управление файлами, настройка встреч или отправка электронных писем. Они видят Copilot Actions как способ создать полезного цифрового помощника, который может выполнять сложные задачи, в конечном итоге делая вас более эффективным и продуктивным.

Как и все ИИ, эти агенты иногда могут допускать ошибки или даже фабриковать информацию, и часто действуют уверенно, даже когда не уверены в чём-либо. Microsoft отмечает, что они также создают новые проблемы с безопасностью, особенно если кто-то злоумышленник сможет получить над ними контроль. Из-за этого Microsoft тщательно сбалансировала предоставление агентам доступа к вашим файлам, одновременно защищая остальную часть вашей системы от потенциального вреда.

Возможные риски и предпринятые исправления

AI-программы, работающие на вашем компьютере, будут иметь собственные отдельные учетные записи, что не позволит им случайно или намеренно изменять ваши личные файлы или настройки. Они будут работать в своем собственном изолированном рабочем пространстве, поэтому их действия не будут мешать вашей работе. Вас всегда будут просить разрешения, прежде чем AI получит доступ к вашим данным, и все действия AI будут четко отделены от ваших собственных действий. Microsoft также подчеркивает, что эти AI-программы должны вести запись своей деятельности и предоставлять способы мониторинга и контроля над их деятельностью, включая демонстрацию плана шагов, которые они предпримут для выполнения задачи.

Даже при наличии встроенной защиты, использование AI-агентов всё ещё несёт в себе риски для конфиденциальности и безопасности. По умолчанию, эти агенты могут запрашивать доступ для чтения и изменения файлов в общих папках, таких как Documents, Downloads, Pictures и других. Они также могут получать доступ к приложениям, установленным для всех пользователей на вашем компьютере. Хотя вы можете ограничить доступ, устанавливая приложения только для своего агента или для себя, агенты могут быть взломаны. Microsoft предупреждает об определенной угрозе под названием «cross-prompt injection», когда скрытый вредоносный код в таких вещах, как документы или элементы интерфейса, может взять под контроль агента и привести к краже данных или установке вредоносного программного обеспечения.

В настоящее время пользователи могут отключить эти функции в меню настроек, и по умолчанию они отключены. Такое внимание к выбору пользователей, наряду с подробной документацией, объясняющей потенциальные риски и меры безопасности, реализованные Microsoft, указывает на то, что компания извлекла уроки из проблемного запуска функции Windows Recall в прошлом году.

В идеале, эти новые функции не должны включаться автоматически при выпуске для всех. В противном случае пользователи могут обнаружить, что им приходится отключать ещё один набор настроек в Windows 11, чтобы предотвратить вмешательство нежелательных облачных и AI-функций в их опыт.

Я очень рад новым AI-агентам, над которыми работает Microsoft! Они также пытаются сделать Copilot более дружелюбным и простым в использовании. Они добавили этого маленького анимированного персонажа, Mico, который немного напоминает старого Clippy, и делают его гораздо лучше в понимании того, что вы *говорите* ему, а не только того, что вы печатаете или нажимаете. Речь идет о том, чтобы AI казался более естественным, и я думаю, что это отличный шаг!

Смотрите также

2025-11-18 23:25