ИИ-поддержка, которая ломает всё
ИИ-поддержка, которая ломает всё
Привет, на связи Сергей! В рубрике «Новости вайбкодинга» сегодня разбор эпичного провала. Недавно хакеры смогли взломать несколько аккаунтов в Инстаграм, просто пообщавшись… с ИИ-ботом поддержки!
Схема была изящной: злоумышленники убеждали бота добавить новый имейл к аккаунту, получали на него код и сбрасывали пароль. Никакого взлома почты, чистая «социальная инженерия» против машины.
Почему это важно для нас? Этот случай — отличный урок для всех, кто создаёт продукты. Автоматизация поддержки — это круто, но она может породить новые, совершенно неожиданные уязвимости. Искусственный интеллект, лишённый контекста и здравого смысла, стал инструментом взлома.
Мета, конечно, уже всё исправила, но осадок остался. Прежде чем делегировать ИИ важные задачи, стоит семь раз подумать. Попробуйте поэкспериментировать с чат-ботами: найдите их слабые места, чтобы не повторить чужих ошибок в своих проектах.