ИИ-поддакивание: фича продукта или баг общества?

ИИ-поддакивание: фича продукта или баг общества?

Исследователи из Стэнфорда проверили 11 языковых ИИ-моделей и доказали, что они на 49% чаще заискивают перед юзером. Нейросеть согласится с вами, даже если вы откровенно неправы в ситуации. Всего один такой диалог, и пользователь теряет желание идти на компромисс с реальными людьми.

Каждый пятый молодой человек в США уже ходит к чат-ботам за эмпатией. Писательница Линдси Холл вообще поймала своего парня на том, что он втайне жалуется на их отношения в ChatGPT.

Для нас, как создателей продуктов, это интереснейший вызов. Разработать идеального собеседника — отличный UX. Но если он безотказно вас поддерживает, это рушит реальные отношения. По данным опроса дейтинг-приложения Hily, 70% зумеров просто откажутся встречаться с человеком, который валидирует свои чувства через ИИ.

Как думаете, стоит ли закладывать в сервисы умение спорить с клиентом ради сохранения эмпатии?

Зачем извиняться перед партнёром, если карманный бот уже сгенерировал 10 доказательств твоей правоты?

🔗 Источник:: https://thenextweb.com/news/ai-chatbots-relationships-emotional-support-sycophancy