Специалисты Microsoft решили вывести контроль пользователей на совершенно новый уровень. Возможности ИИ в связке в облачными серверами сейчас позволяют это сделать.
Постоянный контроль активности пользователей планируется осуществлять через новую функцию Recall, о внедрении которой было объявлено на мероприятии Surface, организованным Microsoft.
Recall делает тысячи скриншотов каждый час. Снимки анализируются при помощи ИИ, что позволяет настроить алгоритм поиска текста и изображений. Именно этот функционал представители Microsoft называют «фотографической памятью» для вашего ПК.
Несмотря на критику со стороны экспертов по кибербезопасности, запуск нового функционала запланирован в ближайшие дни параллельно со стартом продаж ПК Copilot+.
Recall — одна из нескольких функций ИИ, которые появятся исключительно на компьютерах Copilot+. Эти устройства, в число которых входит и новый Surface Laptop 7 от Microsoft, требуют наличия специального блока нейронной обработки (NPU) для выполнения задач ИИ.
Представители Samsung, Dell, Asus и других производителей компьютерной техники уже пообещали выпустить компьютеры Copilot+.
Британский орган по защите данных уже подтвердил, что проводит расследование в отношении Microsoft, а глава компании SpaceX миллиардер Илон Маск предупредил миллионы подписчиков на сайте X, чтобы они отказались от этой функции, сравнив происходящее с эпизодом популярного сериала «Черное зеркало».
Уязвимости системы
Эксперт по кибербезопасности и бывший сотрудник Microsoft Кевин Бомонт обнаружил, что Recall хранит данные в базе в виде обычного текста, без шифрования. Хакер может легко получить данные обо всем, что вы делали на своем компьютере.
Скриншоты автоматически распознаются ИИ Azure AI, работающим на вашем устройстве, и записываются в базу данных SQLite в папке пользователя. В этом файле базы данных хранится запись всего, что вы когда-либо просматривали на своем компьютере, в виде обычного текста.
В основе анализа алгоритм OCR (Optical Character Recognition) — оптическое распознавание символов. Это алгоритм оцифровки изображений набранного, рукописного или печатного текста. Microsoft использует ИИ для расшифровки текста с веб-страниц, документов Word, PDF, рукописных заметок и всего остального, что отображается на экране вашего компьютера, чтобы все это можно было мгновенно найти.
Бомонт назвал эту функцию «катастрофой», предупредив, что «украсть все, что вы когда-либо набирали или просматривали на своем ПК с Windows, теперь возможно с помощью пары строк кода».
Чтоже с этим делать?
Большая часть ПК в государственных организациях РФ все еще работает на Windows различных версий. Описанные выше уязвимости не означают, что все данные могут стать доступными нашему противнику, поскольку для постоянного сканирования ПК нужен более производительный процессор и блок NPU.
Тем не менее, работа специалистов Microsoft в этом направлении позволяет сделать вывод о том, что потенциально все ПК на Windows могут стать причиной утечек информации.
Нельзя полностью исключать возможность того, что подобный функционал в ограниченном объеме не будет интегрирован в очередные обновления операционной системы Windows различных версий.
Столь серьезная проблема требует оперативного анализа со стороны профильных российских предприятий по кибербезопасности. В числе ряда превентивных мер, вероятно наименее затратным будет запрет на обновление операционной системы и отказ от использования ПК с функционалом Copilot+. А в идеале — ускорить переход как минимум всех государственных организаций на отечественное ПО.
