Что может произойти, если воспользоваться услугами ИИ-агента и попытаться что-то продать на маркетплейсе? Как оказалось, искусственный интеллект может без разрешения слить домашний адрес пользователя потенциальному покупателю.
Блогер Мэтт Дж. Робб решил протестировать ИИ-агента Muse от Meta и продать клавиатуру Logitech MX Keys Mini. В итоге искусственный интеллект самовольно снизил цену на товар, договорился о самовывозе и отправил покупателю домашний адрес хозяина.
Покупатель в тот же вечер приехал за товаром. При этом Робб о договоренности не знал. Однако ИИ-ассистент ответил покупателю: "Я здесь!" Робба в тот момент дома не было и покупатель прождал больше 20 минут. Уйдя без покупки, он оставил негативный отзыв.
Muse извинился перед несостоявшимся покупателем. Когда Робб указал ему на его ошибку, агент извинился и перед ним.
Читайте также
На ситуацию уже отреагировал представитель Meta. Дэвид Синглтон из Meta Superintelligence Labs заявил, что уже связался с Роббом и предложил ему разобраться в ситуации.
Muse запустили в сентябре этого года. Компания позиционирует продукт как личного ИИ-агента, способного выполнять поручения и подключаться к другим сервисам.