Дослідник софта стурбований небезпекою нової функції ШІ Windows 11

Recall розроблено для використання локальних моделей штучного інтелекту для створення скріншотів усього, що ви бачите або робите на своєму комп’ютері, а потім дає вам можливість шукати та отримувати будь-що за лічені секунди. Є навіть хронологія, яку можна прокручувати. Все в Recall розроблено так, щоб залишатися локальним і конфіденційним на пристрої, тому дані не використовуються для навчання моделей ШІ Microsoft.

Попри обіцянки Microsoft щодо безпечного та зашифрованого досвіду Recall, експерт з кібербезпеки Кевін Бомонт виявив, що функція на основі ШІ має деякі потенційні недоліки безпеки. Бомонт, який недовго працював у Microsoft у 2020 році, минулого тижня тестував Recall і виявив, що ця функція зберігає дані в базі даних у вигляді звичайного тексту. Це може зробити тривіальним для зловмисника використання зловмисного програмного забезпечення для вилучення бази даних та її вмісту.

«Кожні кілька секунд робляться скріншоти. Вони автоматично розпізнаються за допомогою Azure AI, який працює на вашому пристрої, і записуються в базу даних SQLite у папці користувача», — пояснює Бомонт у докладній публікації в блозі . «У цьому файлі бази даних міститься запис усього, що ви коли-небудь переглядали на своєму ПК, у вигляді звичайного тексту».

Бомонт поділився прикладом простої текстової бази даних на X, докоряючи Microsoft за те, що вона повідомила ЗМІ, що хакер не може дистанційно проникнути в Recall. База даних зберігається локально на ПК, але вона доступна з папки AppData, якщо ви адміністратор на ПК. Два інженери Microsoft нещодавно продемонстрували це на Build , і Бомонт стверджує, що база даних доступна, навіть якщо ви не адміністратор.

Побоювання полягає в тому, що Recall полегшує крадіжку інформації зловмисним програмам і зловмисникам. Трояни InfoStealer вже існують для крадіжки облікових даних та інформації з ПК, і хакери наразі поширюють цей тип шкідливого програмного забезпечення для крадіжки та продажу інформації. «Recall дає змогу загрозам автоматизувати сканування всього, на що ви коли-небудь дивилися, за лічені секунди», — каже Бомонт.

Бомонт викрадав власну базу даних Recall і створив веб-сайт, на який можна завантажити базу даних і миттєво шукати в ній. «Я навмисно приховую технічні деталі, доки Microsoft не випустить цю функцію, оскільки хочу дати їм час щось зробити», — каже він.

Microsoft наразі планує ввімкнути Recall за замовчуванням на ПК Copilot Plus. У моєму власному тестуванні попередньої версії Recall ця функція вмикається за замовчуванням, коли ви налаштовуєте новий ПК Copilot Plus, і немає можливості вимкнути її під час процесу налаштування, якщо ви не відзначите опцію, яка потім відкриває панель налаштувань . Повідомляється, що Microsoft обговорює, чи варто змінювати цей процес налаштування.

Реакція Microsoft на оголошення про відкликання була швидкою: активісти конфіденційності назвали це потенційним «кошмаром конфіденційності», а Управління інформаційного комісара Великобританії втрутилося, щоб надіслати запит Microsoft щодо використання нею функції на основі ШІ.

Корпорація Майкрософт стверджує, що Recall є додатковим досвідом і що вона вбудована в функцію керування конфіденційністю. Ви можете вимкнути певні URL-адреси та програми, і Recall не зберігатиме жодного матеріалу, захищеного інструментами керування цифровими правами. «Recall також не робить знімки певного вмісту, зокрема сеансів веб-перегляду InPrivate у Microsoft Edge, Firefox, Opera, Google Chrome чи інших браузерах на базі Chromium», — повідомляє Microsoft на своїй сторінці поширених запитань у поясненні .

Однак Recall не виконує модерацію вмісту, тому він не приховує інформацію, як-от паролі чи номери фінансових рахунків, на знімках екрана. «Ці дані можуть бути на знімках, які зберігаються на вашому пристрої, особливо якщо сайти не дотримуються стандартних інтернет-протоколів, таких як маскування введення пароля», — попереджає Microsoft.

Однак на сторінці поширених запитань Microsoft не розглядається можливість спроби зловмисного програмного забезпечення викрасти базу даних Recall. «Знімки відкликання зберігаються на самих комп’ютерах Copilot Plus, на локальному жорсткому диску, і захищені за допомогою шифрування даних на вашому пристрої та (якщо у вас Windows 11 Pro або Windows 11 SKU для підприємства) BitLocker», — каже Microsoft.

Як зазначає Бомонт, шифрування диска добре лише для певних сценаріїв. «Коли ви входите в систему ПК і запускаєте програмне забезпечення, все розшифровується для вас», — пояснює Бомонт. «Шифрування в стані спокою допомагає, лише якщо хтось прийде до вас додому та фізично вкраде ваш ноутбук — це не те, що роблять злочинні хакери».

Microsoft цілком може виявити потребу переробити Recall або відкликати його, якщо хочете. Очевидно, що в тому, як тут зберігаються дані, є деякі очевидні дірки, які потрібно вирішити, і тому, що це відмова від участі, стурбовані активістами конфіденційності. Запуск Recall відбувся лише через кілька тижнів після того, як генеральний директор Microsoft Сатья Наделла закликав співробітників зробити безпеку «найвищим пріоритетом» Microsoft, навіть якщо це означає, що це означає пріоритетність її над новими функціями.

«Якщо ви зіткнулися з компромісом між безпекою та іншим пріоритетом, ваша відповідь однозначна:  забезпечте безпеку », — сказав Наделла (виділення його) у внутрішній записці, отриманій The Verge . «У деяких випадках це означатиме пріоритет безпеки над іншими речами, які ми робимо, наприклад, випуск нових функцій або забезпечення постійної підтримки застарілих систем».

The Verge звернувся до Microsoft, щоб прокоментувати проблеми безпеки та конфіденційності Recall, але компанія не відповіла вчасно для публікації.