У ChatGPT з’явився Lockdown Mode для захисту від витоку даних.
OpenAI представила два нові механізми захисту в ChatGPT – режим Lockdown Mode та маркування функцій із підвищеним ризиком Elevated Risk. Оновлення спрямовані на протидію атакам типу prompt injection, коли сторонні особи намагаються змусити ШІ виконувати шкідливі інструкції або розкрити конфіденційні дані, інформує LIGA.net.
Lockdown Mode – це додатковий, опціональний режим безпеки для користувачів із підвищеними вимогами до захисту, зокрема керівників компаній та команд кібербезпеки. У цьому режимі ChatGPT жорстко обмежує взаємодію із зовнішніми системами, щоб мінімізувати ризик витоку даних через prompt injection.
У Lockdown Mode вебперегляд обмежується роботою з кешованими сторінками без виходу в зовнішню мережу, а окремі інструменти можуть бути повністю вимкнені. Режим доступний у планах Enterprise, Edu, Healthcare та Teachers.
Адміністратори вмикають його через налаштування робочого простору, створюючи окрему роль із додатковими обмеженнями та визначаючи, які застосунки й дії дозволені. Контроль забезпечує також Compliance API Logs Platform. Згодом режим планують відкрити й для звичайних користувачів.
OpenAI запровадила єдину позначку Elevated Risk для функцій із додатковими ризиками, зокрема мережевих. Вона з’явиться в ChatGPT, ChatGPT Atlas і Codex із поясненням можливих загроз.