Android
С февраля многие пользователи жалуются на то, что на их Android-смартфонах внезапно появилось приложение Android System SafetyCore. У него нет интерфейса и настроек, но из Google Play можно узнать, что разработчиком является сама Google, число установок превышает миллиард, а рейтинг составляет позорные 2,2 балла. Назначение приложения описано расплывчато: «Обеспечивает технологию для работы функций, таких как «Предупреждения о деликатном контенте» в Google Messages». Что такое «деликатный контент» (sensitive content), можно легко догадаться, но как и почему о нем будет предупреждать Google? И как собирается узнавать, что контент именно деликатный?
Спешим успокоить — по заявлениям как Google, так и сторонних экспертов, функция не создает угроз приватности. SafetyCore работает на устройстве и не отправляет ни фотографий, ни информации о фотографиях на внешние серверы. Если в Google Messages пользователь получает сообщение с картинкой, то модель машинного обучения, запущенная прямо на смартфоне, анализирует изображение и размывает его, если детектирует нюдсы. Пользователь должен кликнуть на изображение и подтвердить, что он действительно хочет увидеть «обнаженку», и тогда размытие пропадает. Аналогичная функция работает при отправке — если пользователь пытается отправить изображение с обнаженными телами, смартфон переспросит, действительно ли нужно отсылать изображение. Google подчеркивает, что информация о результатах проверки картинки никуда не отправляется.
Приложение SafetyCore обеспечивает анализ изображений, но оно не предназначено для самостоятельного использования: другие аппы обращаются к SafetyCore при приеме и отправке картинок, а уж как использовать результаты анализа — зависит от них. Пока воспользоваться ИИ-анализом можно в Google Messages — здесь изображения, признанные «деликатными», будут размыты. В будущем Google обещает открыть функции SafetyCore другим разработчикам, и реагировать на «клубничку» смогут, например, WhatsApp с Telegram. Другие приложения при этом могут быть настроены так, чтобы блокировать «обнаженку» или сразу отправлять такие картинки в спам.
В отличие от предыдущих попыток Google и Apple защитить детей от нежелательного контента, SafetyCore вообще не применяет внешние серверы для анализа, что хорошо для конфиденциальности, но накладывает повышенные требования на оборудование. Google планирует, что SafetyCore будет установлено на всех достаточно мощных смартфонах (2 ГБ ОЗУ, Android 9+), причем для совершеннолетних пользователей функция будет по умолчанию отключена, а для несовершеннолетних — включена. Те, кто не нуждаются в опеке или не любят лишние приложения, могут просто удалить SafetyCore со смартфона. В отличие от многих других сервисов Google, это приложение легко удаляется как через Google Play, так и через подраздел «Приложения» настроек смартфона. Правда, при будущих обновлениях Android Google может переустановить приложение.
SafetyCore является наиболее сложной, но не единственной системой ИИ-защиты, которые Google создает для работы прямо на устройстве, без «облаков» и отправки пользовательских данных. Одновременно с SafetyCore были анонсированы языковые модели, анализирующие сообщения от незнакомцев в Google Messages и предлагающие прервать общение, если текст сообщения похож на одну из классических схем мошенничества.
Кроме SafetyCore, на телефоне столь же внезапно может оказаться приложение Android System Key Verifier. Оно тоже не имеет интерфейса, его тоже легко удалить, и оно тоже предназначено для безопасного общения. Правда, в нем нет никакого ИИ-анализа. Это приложение помогает двум пользователям сверить ключи при использовании мессенджеров со сквозным шифрованием. В WhatsApp и Signal для этого есть собственный интерфейс (два пользователя сканируют QR-коды друг друга при личной встрече или сверяют длинные ряды чисел на экране), но Google стремится решить эту задачу для любого мессенджера и внедрить в Android стандартный интерфейс.
Основной претензией к Google со стороны пользователей и причиной низких рейтингов является не функциональность приложений, а стиль их установки: без предупреждений, без объяснений, без права выбора вам на телефон ставят новое приложение. В отзывах на Google Play многие волнуются, не вирус ли это, а некоторые жалуются, что после установки телефон или отдельные приложения стали хуже работать. Массовых проблем при установке этих приложений Google не отмечалось, но в случае любых сомнений вы можете удалить спорное приложение вручную и проверить, стал ли смартфон работать лучше.
Советы