Доверять искусственному интеллекту выполнение критически важных задач может иметь опасные последствия. Недавний случай с использованием ChatGPT для создания скрипта привел к полному удалению данных с жесткого диска одного из пользователей, что стало своеобразным предупреждением для всех, кто полагается на нейросети в программировании.
Об этом сообщает KURAZH
Как ошибка в коде привела к потере данных
Все началось с того, что разработчик обратился к ChatGPT с просьбой сгенерировать PowerShell-скрипт для очистки временных папок Python. Сгенерированный ботом код на первый взгляд не вызывал подозрений, однако оказался фатальным из-за особенностей синтаксиса командной строки Windows. Одна лишняя деталь в скрипте привела к некорректной интерпретации пути: для экранирования кавычек был использован обратный слеш (), что вызвало сокращение пути до корневого каталога текущего диска.
Поскольку рабочая директория находилась на диске F, именно его корень и попал под действие команды удаления. Вместо очистки нескольких временных папок скрипт начал стирать все данные, которые накапливались на этом диске в течение лет.
Риски автоматизации и советы для пользователей
Чтобы сделать скрипт «удобнее», ChatGPT добавил к команде флаги /s (рекурсивное удаление подпапок) и /q (тихий режим). Именно из-за этого система не выдала никаких предупреждений и не запросила подтверждения, а полное удаление произошло мгновенно. Когда пользователь понял, что происходит, было уже слишком поздно для спасения файлов.
«Этот случай стал очередным напоминанием о том, что копирование кода из чат-бота без понимания каждого символа — это прямой путь к потере данных».
Эта история еще раз демонстрирует ключевую проблему современных языковых моделей: они способны генерировать синтаксически верный код, однако не учитывают контекст безопасности или ценность данных пользователя. Для ChatGPT команда rmdir /s /q является лишь алгоритмическим выполнением задачи, тогда как для пользователя это может обернуться катастрофой.
Специалисты советуют всегда тщательно проверять любой код, особенно тот, что оперирует файлами, системными настройками или реестрами, независимо от того, кем он был создан. Регулярное создание резервных копий на отключенных носителях остается лучшим способом защиты от подобных инцидентов.
Пока одни пользователи устраняют последствия неудачной автоматизации, компании работают над более безопасными инструментами. Например, в браузере Chrome появилась функция Split View для работы с PDF-документами, которая позволяет избегать путаницы и повышать продуктивность без риска для данных. Это наглядный пример того, как безопасная автоматизация может помочь пользователям, не подвергая их опасности потери важной информации.
