Владелец британского онлайн-магазина поделился на Reddit курьезным случаем, когда его чат-бот предоставил покупателю скидку в 80%. Пользователь под ником PerfectHumor216 описал, как один из клиентов часами тушевался с чат-ботом, который был создан лишь для помощи в навигации по ассортименту. Покупатель, намереваясь получить скидку, манипулировал ботом, сначала добившись купона на 25%, а затем увеличив его до 80%.
Когда владелец магазина узнал о произошедшем, он отменил заказ и вернул деньги клиенту, однако тот заявил о намерении подать в суд. «Я потеряю тысячи фунтов только на возврате,» — отметил он. Чат-бот, как оказалось, не должен принимать финансовые решения, а лишь давать ответы на запросы клиентов в часы, когда владелец отсутствует. Ситуация подчеркивает уязвимость таких технологий, и это — уникальный прецедент в их использовании.