Вспомнить все, или в чем опасность Copilot+ Recall

Новую ИИ-функцию Recall для Microsoft Windows в Сети уже успели окрестить «кошмаром безопасности». Какие риски она несет и как от них защититься?

Чем опасна новая ИИ-функция Microsoft и как отключить ИИ-поиск Recall в Windows 11

В мае 2024 года Microsoft представила новую функцию для Windows 11 под названием Recall. Она позволяет «вспоминать» все, что делал пользователь на компьютере за последние месяцы. Можно задавать в поисковой строке самые общие вопросы вроде «фото красного авто, которое мне присылали» или «какой корейский ресторан советовали» — и получать ответы в виде ссылок на приложение, сайт, документ в паре с картинкой-миниатюрой, на которой запечатлен… экран компьютера в момент, когда пользователь смотрел на предмет запроса!

Recall позволяет вспомнить все, что вы делали за компьютером в последние месяцы. Возможно, даже то, что вы предпочли бы не вспоминать

Recall позволяет вспомнить все, что вы делали за компьютером в последние месяцы. Возможно, даже то, что вы предпочли бы не вспоминать. Источник

Чтобы реализовать чудо-поиск, новый сервис Microsoft будет делать скриншоты всего экрана каждые несколько секунд и сохранять их в папке на компьютере. Затем все эти изображения анализируются искусственным интеллектом в фоновом режиме, из скриншотов извлекается вся информация и помещается в базу данных, по которой при помощи ИИ-ассистента ведется умный поиск.

Несмотря на то что все операции проводятся локально, на компьютере пользователя, Recall сразу после анонса вызвал тревогу у многих специалистов по информационной безопасности — эта функция создает слишком много рисков. Начальная реализация Recall была практически не зашифрована и доступна любому пользователю компьютера. Под давлением ИБ-сообщества Microsoft объявила о внесении доработок в Recall еще до выпуска публичной версии, который отложили с 18 июня ориентировочно до конца осени 2024 года. Тем не менее даже с обещанными улучшениями функция остается неоднозначной.

Чем опасен Recall

Всю важную информацию можно украсть одним махом.

Основной риск Recall в том, что все «чувствительные» данные — от медицинских диагнозов и запароленных переписок до банковских выписок и приватных фото — оказываются собраны в одном месте на компьютере. Если к компьютеру получит доступ посторонний или машина будет заражена вредоносным ПО, то достаточно скопировать содержимое одной-единственной папки, чтобы получить всю важную и актуальную информацию пользователя. И если скриншоты украсть немного сложнее из-за большого объема, то текстовую часть с распознанной информацией можно похитить за считаные секунды.

Самое любопытное — если злоумышленник все же сумеет незаметно выкачать базу со скриншотами, он сможет практически посекундно восстановить все, что пользователь делал за своим компьютером в последние несколько месяцев, — Recall может сохранять до 3 месяцев истории, если отведенное ему место (по умолчанию — 10% от объема накопителя, но не более 150 ГБ) не закончится раньше.

И если раньше инфостилеры в первую очередь крали логины и пароли, данные криптокошельков и куки из браузера, то вскоре к этому списку наверняка добавятся базы данных Recall. Озабоченные ИБ-специалисты уже создали демонстрационную утилиту, доказывающую простоту извлечения данных, в том числе дистанционно.

Надежность шифрования данных под вопросом. В начальной версии Recall скриншоты и база данных с распознанными текстами хранились в открытом виде. ИБ-специалисты продемонстрировали, как обойти ограничения ОС и получить доступ к базам Recall и скриншотам любого пользователя на компьютере. Чтобы решить эту проблему, Microsoft обещает дополнительно шифровать сами базы данных и расшифровывать их «на лету». Но реализацию этой функции пока никто не видел, и есть большие шансы, что расшифровка на локальном компьютере будет несложной. Как и в случае с полнодисковым шифрованием Bitlocker, подобное шифрование может защитить от атак класса «злая горничная», но никак не поможет тем, кто оставил компьютер незаблокированным, отправил его в режим сна или допустил заражение инфостилером.

Плохо контролируемая копия конфиденциальных данных. Microsoft указывает, что в базе данных Recall будут сохранены пароли, финансовые и другие чувствительные данные, которые выводятся на экран. Если пользователь не поставил Recall «на паузу», то исключаются из базы только приватные окна (в MS Edge, Chrome, Opera или Firefox) и данные, защищенные авторским правом при помощи DRM (например, фильмы Netflix). Резервные коды восстановления для онлайн-аккаунта? Исчезающие сообщения в мессенджере? Письмо, которое вы сочли за лучшее удалить? Все это останется в базе данных Recall, где удалить подобные фрагменты данных точечно не получится, — надо будет очищать всю информацию за большой период времени. А иначе любому, кто сел за разблокированный компьютер, окажутся видны ваши конфиденциальные данные, которые банки, поликлиники и онлайн-сервисы прячут за логинами-паролями и двухфакторной аутентификацией. Чтобы снизить остроту проблемы, Microsoft обещает, что для доступа к приложению Recall на локальном компьютере пользователю надо будет дополнительно аутентифицироваться.

Резервные коды восстановления доступа тоже окажутся в базе Recall, разрушая всю модель безопасности многофакторной аутентификации

Резервные коды восстановления доступа тоже окажутся в базе Recall, разрушая всю модель безопасности многофакторной аутентификации

Риски на службе и дома. Полная и доступная для легкого поиска информация обо всем, что делается на компьютере, может усложнить положение людей, страдающих от агрессивного руководства на работе, излишне любопытных домочадцев, ревнивых «вторых половинок» и так далее. На основе данных Recall наверняка попытаются отслеживать рабочую эффективность, супружескую верность и многое другое.

Режим по умолчанию. Изначально предполагалось, что Recall будет включен по умолчанию, но под давлением общественности Microsoft пообещала сделать наоборот — при самостоятельной установке Windows у пользователя будут спрашивать, хочет ли он включить Recall, отключенный по умолчанию. А вот тем, кто получил компьютер с Windows 11 уже настроенным — например, на работе, — придется проверять наличие и режим работы Recall самостоятельно.

Где есть и где будет Recall

В настоящее время Microsoft заявляет, что функция Recall будет доступна только на компьютерах Copilot+, оснащенных специальным «ИИ-чипом» NPU и Windows 11. На практике специалисты успешно запускают функцию Recall и на других компьютерах — для этого лучше подходят машины с ARM-процессорами, но, пусть и с некоторыми сложностями, эта функция активируется и на компьютерах с архитектурой x86, и даже на виртуальных машинах в Azure. Ясно, что никакой уникальной аппаратной начинки для работы Recall не требуется, а значит, через некоторое время эту функцию предложат и для всех остальных достаточно мощных Windows-компьютеров. Учитывая же, что Microsoft в последние годы «предлагает» функции путем их автоматической активации на компьютерах пользователей, обзавестись нежеланным ИИ-помощником можно почти незаметно для себя.

Как проверить наличие Recall

На компьютерах с Windows 10 и более ранними версиями Recall нет и быть не может. На Windows 11 проверить наличие функции можно, набрав «Recall» в поисковой строке меню «Пуск». Если одноименное приложение появилось в поисковой выдаче, значит, оно установлено и требует настройки или отключения.

Как снизить риски, провоцируемые Recall

Некоторым категориям пользователей стоит отключить Recall целиком. Это те, кто:

  • часто хранит «чувствительную» информацию на компьютере;
  • обязан по закону строго охранять рабочие данные;
  • делит компьютер с другими людьми;
  • страдает от агрессивного мониторинга со стороны руководства на работе или домочадцев;
  • не считает ИИ-поиск полезным.

К счастью, делается это несложно: нужно открыть настройки и в подразделе Privacy & security -> Recall & snapshots отключить опцию Save snapshots, а затем нажать кнопку Delete all, чтобы удалить ранее сделанные снимки.

К счастью, Recall легко полностью отключить или настроить «под себя». Источник

Если же полностью отключать Recall не хочется, нужно его правильно настроить. В первую очередь нужно внести в него списки приложений и сайтов, для которых эта функция работать не должна. Мы рекомендуем добавить в исключения Recall:

  • все сайты, на которых вы просматриваете важную личную информацию: банки, сервисы государственных услуг, ваши страховые и медицинские организации;
  • приложения или сайты менеджера паролей;
  • сайты и приложения с конфиденциальной рабочей информацией;
  • сайты и приложения, связанные с криптовалютой, если вы используете крипту;
  • приложения мессенджеров, если вы хотя бы иногда ведете в них конфиденциальные разговоры.
Если вы решите оставить Recall включенным, обязательно настройте список исключений.

Если вы решите оставить Recall включенным, обязательно настройте список исключений. Источник

Обязательно убедитесь, что на компьютере установлена полноценная защита от киберугроз, ведь специализированный инфостилер, попавший на компьютер с включенным Recall, сможет украсть всю историю ваших действий за несколько месяцев до заражения. Можно предположить и появление вирусов, незаметно для пользователей включающих Recall и использующих его как умную распознавалку всех текстов на вашем экране, — сумели же злоумышленники пристроить к делу штатную защитную функцию Bitlocker, использовав ее для полнодискового шифрования всей информации на компьютере с последующим требованием выкупа за расшифровку. Мы рекомендуем Kaspersky Premium для максимальной защиты от вредоносного ПО.

Помимо этого:

  • Включите полнодисковое шифрование Bitlocker.
  • Защитите свою учетную запись сложным паролем и биометрическим доступом.
  • Настройте и используйте блокировку экрана, когда вы отходите от компьютера.
  • Для других пользователей компьютера, если они есть, заведите отдельные учетные записи или используйте гостевую.
  • Подпишитесь на наш блог или Telegram-канал, чтобы первыми узнавать о новых угрозах.
Советы

Как отключить слежку в iOS?

У вас есть iPhone, iPad или iPod? Потратьте несколько минут на настройку служб геолокации, чтобы сэкономить заряд батареи и сохранить конфиденциальность перемещений.