ChatGPT як цифровий кілер: як один зайвий слеш знищив усі дані користувача
Довіряти штучному інтелекту критичні завдання — це як просити дитину прибрати в кімнаті за допомогою вогнемета. Ефект буде швидким, але результат вас навряд чи порадує. Нещодавній інцидент із ChatGPT довів, що навіть найпростіший скрипт для очищення тимчасових папок може перетворитися на цифрову катастрофу, якщо в ньому з’явиться один зайвий символ. Користувач, який хотів лише навести лад у проєктах на Python, залишився з ідеально порожнім диском F.
Історія почалася цілком буденно: розробник попросив чат-бота від OpenAI написати короткий скрипт на PowerShell. Завдання було елементарним — знайти та видалити папки з тимчасовими файлами Python. Нейромережа видала код, який на перший погляд виглядав робочим, але диявол, як завжди, сховався в деталях реалізації синтаксису командного рядка Windows.
Конфлікт інтерпретацій та фатальна помилка
Проблема виникла через те, як ChatGPT вирішив обробити шлях до каталогу. Для екранування лапок у команді нейромережа використала зворотний слеш (\). У звичайних умовах це могло б спрацювати, але скрипт викликав оболонку CMD через інтерфейс PowerShell за допомогою конструкції cmd /c. У цей момент логіка обробки символів зламалася.
Через некоректне екранування змінна шляху в очах системи скоротилася до одного-єдиного символу «\». У світі Windows цей символ означає не просто «якусь папку», а кореневий каталог поточного диска. Оскільки робоча директорія знаходилася на диску F, команда на видалення була спрямована саме на його корінь. Замість того, щоб почистити кілька мегабайтів сміття, скрипт приготувався «винести» все, що накопичувалося роками.
Тихе вбивство файлової системи
Ситуацію значно погіршив надмірний «професіоналізм» штучного інтелекту. Щоб зробити роботу скрипта зручнішою, ChatGPT додав у команду прапорці /s та /q. Перший означає рекурсивне видалення всіх підпапок, а другий — режим «тиші» (quiet mode). Це означає, що Windows навіть не запитала користувача: «А чи впевнені ви, що хочете стерти весь диск?».
Програма спрацювала миттєво. Без жодних попереджень чи запитів скрипт почав знищувати робочі проєкти, архіви та документи. Коли користувач зрозумів, що відбувається, зупиняти процес було вже пізно — файлова таблиця була зачищена. Як повідомляє видання Gizmochina, цей випадок став черговим нагадуванням про те, що копіювання коду з чат-бота без розуміння кожного символу — це прямий шлях до втрати даних.
Чому це важливо
Цей інцидент підсвічує головну проблему сучасних мовних моделей: вони генерують текст, який виглядає правильним, але не розуміють контексту безпеки. Для ChatGPT команда rmdir /s /q — це просто ефективний спосіб виконати запит користувача на видалення. Нейромережа не знає, що таке «цінність даних» або «бекап». Вона просто складає ймовірні послідовності символів.
Для користувачів це має бути уроком: будь-який код, що стосується маніпуляцій із файлами, системними реєстрами чи мережевими налаштуваннями, має проходити ретельну перевірку. Особливо, якщо в ньому присутні команди «тихого» виконання. Поки що найкращим антивірусом проти помилок ШІ залишається критичне мислення та регулярне створення резервних копій на фізично від'єднаних носіях.
Поки одні користувачі борються з наслідками невдалої автоматизації, розробники софту намагаються зробити наше життя простішим. Наприклад, нещодавно Google додала в Chrome функцію Split View для роботи з PDF, що дозволяє уникнути хаосу у вкладках. Це значно безпечніший спосіб підвищити продуктивність, ніж експерименти з неперевіреними скриптами.