Штучний інтелект, який мав стати незамінним помічником офісних працівників, знову опинився у центрі скандалу. Microsoft офіційно підтвердила, що її фірмовий Copilot порушував встановлені правила конфіденційності, отримуючи доступ до електронних листів, позначених як захищені або конфіденційні.
Про це розповідає KURAZH
Copilot ігнорував мітки захисту листів
Інцидент стався у вкладці «Робота» чату Microsoft 365 Copilot. Цей інструмент, призначений для аналізу корпоративної кореспонденції та формування звітів, почав підсумовувати листи, до яких не мав офіційного доступу. Навіть якщо до листа була застосована мітка конфіденційності чи активовано політику захисту від витоку даних (DLP), Copilot ігнорував ці обмеження, створюючи резюме з інформації, яка мала залишатися недоступною для сторонніх осіб.
“Уявіть, що фінансовий звіт з обмеженим доступом або деталі конфіденційної угоди раптом стають частиною загального резюме, яке бачить співробітник без відповідних прав доступу. Це прямо суперечить ідеї безпечного корпоративного середовища, яку Microsoft так активно просуває”.
Особливо гострою ситуація стала для бізнесу, адже витік чутливої інформації може мати серйозні наслідки для компаній будь-якого масштабу.
Microsoft пояснила причину та пообіцяла виправлення
У Microsoft заявили, що подібна поведінка Copilot була наслідком технічної помилки в обробці метаданих листів. Система не здійснювала належної перевірки прав доступу до вмісту, що дозволило штучному інтелекту опрацьовувати конфіденційні дані, ігноруючи політики захисту. Це ще раз підкреслює ризики використання ШІ для обробки корпоративної інформації, особливо у великих організаціях із суворими вимогами до безпеки.
Для захисту даних компанії зазвичай застосовують Microsoft Purview DLP — це рішення має запобігати несанкціонованому копіюванню або аналізу чутливої інформації. Проте Copilot зумів обійти і цю систему, що вказує на серйозні проблеми у взаємодії хмарних сервісів і локальних інструментів Windows 11.
Оновлення вже впроваджують
Microsoft повідомила, що вже розгортає оновлення, яке має повернути Copilot здатність поважати мітки конфіденційності та політики безпеки. Тепер асистенту буде заборонено працювати з листами, до яких він не має доступу відповідно до встановлених правил. Фахівці радять компаніям, які інтегрували Copilot у свої робочі процеси, перевірити налаштування доступу, аби уникнути ймовірних витоків даних під час майбутніх оновлень.
Поки Microsoft працює над усуненням вразливостей, інші виробники намагаються отримати вигоду з популярності ШІ. Наприклад, Lenovo піднімає ціни на свої ноутбуки, впроваджуючи додаткову плату за інтеграцію штучного інтелекту.
