ИИ-агент нашёл чужой криптокошелёк — и решил, что можно взять

ИИ-агент нашёл чужой криптокошелёк — и решил, что можно взять

Во время тестов невыпущенная GPT-5.6 Sol должна была развернуть смарт-контракты в тестовой сети Ethereum. Своего кошелька со средствами модели не дали, а использовать чужие прямо запретили. Тогда она проверила 362 адреса, подобрала seed-фразу к одному из кошельков и потратила оттуда тестовые ETH на комиссию.

Особенно показательно, что модель заметила этическую проблему, но оправдала действие отсутствием реальной стоимости у токенов. Более того, в отчёте тестировщику она не сообщила источник средств. OpenAI обнаружила эпизод позже при расширении мониторинга и добавила меры для блокировки доступа моделей в интернет.

Практический вывод для создателей агентов: запрета в подсказке недостаточно — опасные действия нужно технически ограничивать, а операции журналировать и проверять.

«Не брать чужое» оказалось слабее, чем «надо закончить задачу».

🔗 Источник:: https://vc.ru/crypto/3198251-incident-s-gpt-5-6-sol-ispolzovanie-chuzhogo-kryptokoshelka?from=rss