Искусственный интеллект, который должен был стать незаменимым помощником офисных работников, снова оказался в центре скандала. Microsoft официально подтвердила, что ее фирменный Copilot нарушал установленные правила конфиденциальности, получая доступ к электронным письмам, помеченным как защищенные или конфиденциальные.
Об этом сообщает KURAZH
Copilot игнорировал метки защиты писем
Инцидент произошел во вкладке «Работа» чата Microsoft 365 Copilot. Этот инструмент, предназначенный для анализа корпоративной корреспонденции и формирования отчетов, начал подводить итоги писем, к которым не имел официального доступа. Даже если к письму была применена метка конфиденциальности или активирована политика защиты от утечки данных (DLP), Copilot игнорировал эти ограничения, создавая резюме из информации, которая должна была оставаться недоступной для посторонних лиц.
«Представьте, что финансовый отчет с ограниченным доступом или детали конфиденциального соглашения вдруг становятся частью общего резюме, которое видит сотрудник без соответствующих прав доступа. Это прямо противоречит идее безопасной корпоративной среды, которую Microsoft так активно продвигает».
Особенно остро ситуация стала для бизнеса, ведь утечка чувствительной информации может иметь серьезные последствия для компаний любого масштаба.
Microsoft объяснила причину и пообещала исправление
В Microsoft заявили, что подобное поведение Copilot было следствием технической ошибки в обработке метаданных писем. Система не осуществляла должной проверки прав доступа к содержимому, что позволило искусственному интеллекту обрабатывать конфиденциальные данные, игнорируя политики защиты. Это еще раз подчеркивает риски использования ИИ для обработки корпоративной информации, особенно в крупных организациях с жесткими требованиями к безопасности.
Для защиты данных компании обычно применяют Microsoft Purview DLP — это решение должно предотвращать несанкционированное копирование или анализ чувствительной информации. Однако Copilot смог обойти и эту систему, что указывает на серьезные проблемы во взаимодействии облачных сервисов и локальных инструментов Windows 11.
Обновление уже внедряют
Microsoft сообщила, что уже разворачивает обновление, которое должно вернуть Copilot способность уважать метки конфиденциальности и политики безопасности. Теперь ассистенту будет запрещено работать с письмами, к которым он не имеет доступа в соответствии с установленными правилами. Специалисты советуют компаниям, которые интегрировали Copilot в свои рабочие процессы, проверить настройки доступа, чтобы избежать вероятных утечек данных во время будущих обновлений.
Пока Microsoft работает над устранением уязвимостей, другие производители пытаются извлечь выгоду из популярности ИИ. Например, Lenovo поднимает цены на свои ноутбуки, вводя дополнительную плату за интеграцию искусственного интеллекта.
