ChatGPT в «режиме крепости»: новая эра безопасности?

ChatGPT в «режиме крепости»: новая эра безопасности?

Привет, на связи Сергей! В рубрике «Новости вайбкодинга» сегодня говорим о безопасности при работе с ИИ.

OpenAI выкатила для ChatGPT «Режим блокировки» (Lockdown Mode). Это попытка защититься от инъекций промпта — атак, когда в безобидный файл или на веб-страницу прячут вредоносную команду. Модель её выполняет и может слить ваши данные.

Новый режим не блокирует саму атаку, но отключает «пути отступления» для данных: запрещает выход в интернет и работу с файлами. Да, функциональность сильно страдает, но безопасность важнее.

Почему это важно? Это признание фундаментальной проблемы всех ИИ: они пока не отличают данные от инструкций. Для создателей продуктов это чёткий сигнал, что о безопасности нужно думать в первую очередь!

Это повод задуматься: а в ваших продуктах есть сценарии, где ради безопасности стоит временно ограничить какие-то функции?

🔗 Источник: thenextweb.com (https://thenextweb.com/news/chatgpt-lockdown-mode-prompt-injection)

🔗 Источник:: https://thenextweb.com/news/chatgpt-lockdown-mode-prompt-injection