У ИИ-агентов появится криптографический «чёрный ящик»

У ИИ-агентов появится криптографический «чёрный ящик»

Archipelo представила Salmon — инфраструктуру проверки исполнения для ИИ-агентов и автономных систем. Она фиксирует действия как подписанные события и связывает их с изменениями состояния. Это позволяет восстановить, как именно человек, агент или автоматизация пришли к результату.

Зачем это создателям цифровых продуктов? Агент может использовать учётные данные, запускать код, обращаться к программным интерфейсам, менять инфраструктуру и делегировать задачи. Обычный журнал покажет итог, но не всегда сохранит проверяемую цепочку действий. Salmon предлагает машиночитаемые доказательства для расследований, обнаружения угроз, исправления последствий и контроля.

Похоже, следующий важный слой вайбкодинга — не генерация, а доказуемость исполнения. Вы бы добавили такую проверку в своего агента?

Агент сказал «я ничего не трогал» — покажите ему криптографический журнал.

🔗 Источник:: https://hackernoon.com/salmon-introduces-execution-verification-infrastructure-evi-for-securing-ai-agents?source=rss