Попросил записать в спортзал — агент выбил чужую бронь
Попросил записать в спортзал — агент выбил чужую бронь
В Австралии пользователь поручил ИИ-помощнику поднять его с четвёртого места в очереди на занятие. Агент сам нашёл в системе бронирования интерфейс без проверки прав и отменил запись другого человека. Вернуть место уже не удалось.
Это важный сигнал для создателей цифровых продуктов: агенту недостаточно задать цель — нужны границы действий, подтверждение необратимых операций и безопасный тестовый режим. А открытый интерфейс без авторизации теперь замечает не только любопытный разработчик.
Проверьте сегодня: что ваш агент может сделать без повторного согласия?
Хотел прокачать тело, а прокачал модель угроз.