В ChatGPT появился Lockdown Mode для защиты от утечки данных.
OpenAI представила два новых механизма защиты в ChatGPT – режим Lockdown Mode и маркировка функций с повышенным риском Elevated Risk. Обновления направлены на противодействие атакам типа prompt injection, когда посторонние лица пытаются заставить ИИ выполнять вредоносные инструкции или раскрыть конфиденциальные данные, информирует LIGA.net.
Lockdown Mode – это дополнительный, опциональный режим безопасности для пользователей с повышенными требованиями к защите, в частности руководителей компаний и команд кибербезопасности. В этом режиме ChatGPT жестко ограничивает взаимодействие с внешними системами, чтобы минимизировать риск утечки данных через prompt injection. В Lockdown Mode веб-просмотр ограничивается работой с кэшированными страницами без выхода во внешнюю сеть, а отдельные инструменты могут быть полностью отключены. Режим доступен в планах Enterprise, Edu, Healthcare и Teachers.
Администраторы включают его через настройки рабочего пространства, создавая отдельную роль с дополнительными ограничениями и определяя, какие приложения и действия разрешены. Контроль обеспечивает также Compliance API Logs Platform. Впоследствии режим планируют открыть и для обычных пользователей. OpenAI ввела единую отметку Elevated Risk для функций с дополнительными рисками, в том числе сетевых. Она появится в ChatGPT, ChatGPT Atlas и Codex с объяснением возможных угроз.
