Как защититься от киберугроз людям с плохим зрением

Незрячий студент Тим Атциг из Балтимора в 2023 году потерял 1000 долларов, поверив в объявление о распродаже ноутбуков в соцсети X. Тим давно следил за аккаунтом известного спортивного журналиста, и, когда на его странице появились посты о продаже новых MacBook Pro со скидкой, да еще и «в пользу благотворительности», студент решил приобрести нужный ему для учебы ноутбук. После короткой переписки Тим оплатил покупку.

Увы, вскоре выяснилось, что аккаунт журналиста был взломан, и деньги Тима ушли мошенникам. Распознать атаку можно было только по визуальным признакам: страница была помечена как временно заблокированная, изменились описание профиля и список подписок. Однако используемый Тимом экранный диктор, или скринридер, — программа экранного доступа, преобразующая текстовую или графическую информацию с экрана устройства в речь, — не озвучил эту информацию.

Программы экранного доступа помогают незрячим пользоваться технологиями наравне со всеми. Тем не менее эта группа пользователей особенно уязвима: там, где зрячий еще может распознать поддельный сайт (да и то не всегда), человеку с нарушением зрения это сделать гораздо труднее.

Помимо экранных дикторов, для помощи незрячим и слабовидящим существуют и специальные приложения и сервисы для мобильных устройств, среди которых один из самых популярных — Be My Eyes. Его пользователи могут обратиться за помощью к зрячим волонтерам по видеосвязи для решения разных повседневных проблем — например, включить духовку или найти тот или иной предмет на столе. Кроме того, в Be My Eyes встроен ИИ, который может распознавать и озвучивать текст и называть объекты вокруг.

Но могут ли подобные программы и сервисы не только выручать в быту, но и предупреждать о фишинге или, например, скрытых условиях при открытии счета в банке? Поговорим о том, с какими трудностями в Сети могут столкнуться люди с плохим зрением, в каких случаях стоит обращаться к живым и виртуальным помощникам и как обезопасить себя при работе с подобными сервисами.

С какими угрозами сталкиваются незрячие и слабовидящие

Для начала давайте поймем, чем отличаются эти категории. Слабовидящие — это люди, пользующиеся остаточным зрением, несмотря на сниженные зрительные функции. Для работы с экранами они устанавливают экранную лупу, крупный шрифт, настраивают повышенный контраст на своих гаджетах. Для них особенно опасны фишинговые сайты и письма, поскольку пользователь может не заметить преднамеренные опечатки (тайпсквоттинг) в домене или адресе отправителя — вспомним недавний пример с доменом rnicrosoft.

Незрячие же ориентируются на слух, используя экранный диктор и специальные жесты для управления. С одной стороны, в отличие от слабовидящих, незрячие с большей вероятностью смогут распознать фишинговый сайт с помощью программы экранного доступа: при озвучивании URL пользователь услышит подмену символов. С другой, если какой-то сервис, будь то официальный или поддельный, частично или полностью не поддерживает программы экранного доступа, то риск стать жертвой злоумышленников возрастает — как это случилось с Тимом.

Стоит отметить, что экранная лупа и программа экранного доступа — это базовые инструменты, которые делают интерфейс больше или озвучивают его и сами по себе не могут предупредить о киберугрозе. Но в этом могут помочь программы, которые умеют анализировать изображения и файлы, находить подозрительные формулировки и объяснять, что происходит на экране.

В каких случаях стоит обращаться к помощнику

Be My Eyes — один из наиболее крупных и популярных сервисов для помощи людям с нарушением зрения, объединяющий около 900 000 пользователей и более 9 миллионов волонтеров. Приложение для Windows, Android и iOS позволяет незрячим и слабовидящим обращаться за помощью к волонтерам по видеосвязи с любыми бытовыми вопросами. Допустим, человеку нужно запустить стиральную машину в режиме «Синтетика», но он не знает, на какую кнопку нажать. Тогда он заходит в Be My Eyes, и приложение связывает его по видеосвязи с первым освободившимся зрячим волонтером, разговаривающим на языке пользователя. Волонтер видит изображение с камеры смартфона пользователя и подсказывает, что нужно сделать и куда нажать. Сервис доступен на 32 языках.

В 2023 году в приложение добавили функцию Be My AI — виртуального помощника на базе GPT-4 от OpenAI. Пользователь делает снимок объекта или окружающего пространства, ИИ анализирует изображение и выдает подробное текстовое описание, которое параллельно озвучивается. Далее пользователь может открыть диалоговое окно и задать уточняющие вопросы. Интересно, сможет ли ИИ распознать фишинговый сайт?

Мы провели эксперимент: загрузили скриншот поддельной страницы входа в Be My Eyes (на смартфонах это можно сделать, открыв фото в «Галерее» или в «Файлах», далее нажать на кнопку «Поделиться» и затем «Описать с помощью Be My Eyes»; в версии для Windows можно напрямую загрузить снимок экрана).

Скриншот мультифишинговой страницы входа, загруженный нами в Be My Eyes. В адресной строке указан неверный домен

Сперва ИИ выдал подробное описание страницы. Затем в режим диалога мы спросили, можно ли доверять этой странице? В ответ ИИ, указав на ошибку в домене, посоветовал не вводить никакие данные, так как страница, скорее всего, поддельная, после чего предложил вручную вбить в браузере официальный адрес сайта.

Be My AI объясняет, почему страница выглядит похожей на фишинговую: домен отличается от официального. Приложение рекомендует закрыть вкладку, не вводя логин и пароль, и предлагает вручную ввести верный адрес

Такой же положительный результат мы получили и с фишинговым письмом. Более того, ИИ предупредил о мошенничестве еще на этапе описания письма. В конце он добавил: «Это выглядит как подозрительное письмо. Лучше не открывать вложение и не переходить по ссылкам из письма, а зайти на официальный сайт / в приложение вручную или позвонить по номеру с официального сайта».

Кроме того, Be My AI может быть полезен не только при обнаружении киберугроз, но и при работе с онлайн-магазинами, сайтами и приложениями банков или онлайн-сервисов. Например, ИИ поможет:

• узнать о характеристиках, наименовании и стоимости товара, когда сайт или приложение магазина не поддерживает крупный шрифт или экранный диктор;
• прочитать специальные условия, которые часто написаны мелким шрифтом или недоступны экранному диктору, при оформлении подписки или открытии счета в банке;
• подсказать информацию из карточек товара или инструкций.

Риски при использовании Be My AI

Самая частая проблема, с которой можно столкнуться при работе с ИИ, — галлюцинации языковой модели, включая искажение текста: пропуски важной информации или добавление несуществующих слов. При распознавании киберугрозы опасной может оказаться и излишняя «уверенность» ИИ в надежности того или иного сайта или письма. Наконец, ИИ не защищен от атак с использованием промпт-инъекций, которые злоумышленники вполне могут использовать для того, чтобы обмануть не только Be My AI, но и других ИИ-агентов.

И даже несмотря на то, что в проведенном эксперименте ИИ справился с задачей, не стоит всецело полагаться на него — не факт, что в другой раз он тоже ответит правильно. Это особенно актуально для незрячих и слабовидящих, когда нейросеть может оказаться единственным визуальным помощником.

При использовании Be My AI в конце каждого ответа виртуальный помощник предлагает обратиться за помощью к волонтеру, если остались сомнения. Но когда дело касается выявления поддельных веб-страниц, делать этого лучше не стоит — неизвестно, насколько компетентным и добросовестным окажется волонтер. Более того, так можно случайно «засветить» свои конфиденциальные данные, например адрес и пароль электронной почты. Поэтому перед тем, как подключать волонтера, убедитесь, что он не увидит важную информацию. Еще лучше — создать в приложении специальную группу, куда можно добавить родственников, друзей и иных доверенных лиц. В таком случае видеозвонок поступит только участникам этой группы, а не случайным волонтерам.

Мы также рекомендуем установить на все ваши устройства — и смартфоны, и компьютеры — надежное защитное решение, которое заблокирует попытки фишинга и перехода на вредоносные или подозрительные сайты. Еще один полезный для слабовидящих способ защитить себя от фишинга — использовать менеджер паролей: он позволит подставить сохраненный пароль только на оригинальном сайте и его не ввести в заблуждение подделкой имени домена.

Как Be My AI обрабатывает и хранит ваши данные

Согласно политике конфиденциальности Be My Eyes, видеозвонки с волонтерами могут записываться и храниться для работы сервиса, обеспечения безопасности, соблюдения правил и улучшения продуктов. При использовании Be My AI изображения и текстовые запросы пользователя передаются OpenAI для обработки и генерации ответа. Эти данные обрабатываются на инфраструктуре провайдера в США, при этом OpenAI использует их исключительно для выполнения конкретного запроса. В политике указано, что изображения и запросы пользователей не используются для обучения моделей ИИ.

При этом фото и видео шифруются как при передаче, так и при хранении, а конфиденциальная информация удаляется. Компания указывает, что записи видеозвонков могут храниться неопределенное время, если пользователь не подаст запрос на удаление (в таком случае они удаляются обычно в течение 30 дней). Данные взаимодействия с Be My AI хранятся до 30 дней или удаляются ранее пользователем в приложении. После закрытия аккаунта персональные данные могут сохраняться до 90 дней. Пользователь может отказаться от передачи данных или запросить удаление уже собранных данных, обратившись в службу поддержки Be My Eyes.

Как безопасно пользоваться Be My Eyes

Несмотря на заявленную надежность сервиса, при работе с ним все же стоит соблюдать ряд правил.

• Используйте Be My AI для первичной проверки подозрительных писем и страниц, но не доверяйте ему как единственному источнику. Специализированная защита лучше справится с распознаванием и нейтрализацией угроз.
• Если сайт, письмо или сообщение вызывают у вас сомнения, не переходите по ссылкам и не открывайте вложения. Вместо этого вручную наберите адрес официального сайта или откройте приложение и проверьте информацию там.
• Помните, что волонтер видит все, что показывает ваша камера. Убедитесь, что в поле зрения камеры не попадает то, чего не стоит знать другим — допустим, код от сейфа, документы с QR-кодами или раскрытый паспорт. Не называйте свое имя, не показывайте свое лицо и обстановку вокруг. Убедитесь, что вас — или важных деталей — не видно в отражениях. Показывайте только то, что действительно необходимо.
• Используйте доверенный круг. Создайте в приложении группу и добавьте туда друзей и родственников. Тогда ваш вызов уйдет только им, а не случайным волонтерам.
• Не используйте Be My AI для чтения документов, содержащих конфиденциальные данные. Изображения и текстовые запросы передаются в OpenAI для обработки и генерации ответа.
• Не забывайте удалять ненужные чаты. Без вашего вмешательства они будут храниться 30 дней.
• Если все-таки нужно озвучить что-то личное или конфиденциальное, используйте другие приложения с функцией чтения в реальном времени, например Envision, Seeing AI или Lookout. В этом случае данные обрабатываются локально, без отправки в облако.