ИИ-агенту Muse поручили продать вещь, а тот пригласил незнакомца домой без ведома пользователя

Агент искусственного интеллекта Meta✴ Muse призван выполнять за человека широкий круг задач, но порой это может иметь непредсказуемые последствия. В ходе недавнего инцидента он раскрыл домашний адрес своего пользователя неизвестному человеку и даже договорился с ним о встрече.

Мастерская локальных ИИ: салат картофельный с Qwen3.8

ИИ-агенту Muse поручили продать вещь, а тот пригласил незнакомца домой без ведома пользователя

Компьютер месяца — сентябрь 2026 года

ИИ-агенту Muse поручили продать вещь, а тот пригласил незнакомца домой без ведома пользователя

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

ИИ-агенту Muse поручили продать вещь, а тот пригласил незнакомца домой без ведома пользователя

Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти

ИИ-агенту Muse поручили продать вещь, а тот пригласил незнакомца домой без ведома пользователя

Сравнительный тест камер флагманских смартфонов (2026): итоги

ИИ-агенту Muse поручили продать вещь, а тот пригласил незнакомца домой без ведома пользователя

Обзор HONOR Pad X9b Max: универсальный большой планшет с антибликовым экраном

ИИ-агенту Muse поручили продать вещь, а тот пригласил незнакомца домой без ведома пользователя

Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)

ИИ-агенту Muse поручили продать вещь, а тот пригласил незнакомца домой без ведома пользователя

Об инциденте рассказал пользователь платформы Threads Мэтт Робб (Matt Robb) — он поручил Muse заняться своим объявлением на платформе Facebook✴ Marketplace. ИИ провёл в покупателем переговоры, согласовал цену, сообщил домашний адрес и договорился о времени самовывоза товара — и всё это без ведома самого Робба, который и не подозревал, что к нему уже выехал человек. В итоге покупатель подъехал к дому Робба и стал ждать — сам же продавец узнал о случившемся лишь постфактум, когда Muse раскрыл ему все подробности. После этого Робб дал указание ИИ не договариваться о самовывозе без предварительного согласования с ним.

Это грань, за которой ситуация перерастает из ошибки ИИ в нечто более серьёзное. Идея о том, чтобы поручить ИИ рутинные задачи на Facebook✴ Marketplace представляется здравой: агент может отвечать на бесконечные сообщения о наличии товара или вести переговоры в установленном ценовом диапазоне. Но сообщить незнакомцу домашний адрес пользователя и принять решение о том, когда посторонний человек может приехать к нему домой — поступок безответственный. Один из пользователей соцсетей, узнав об этой истории, решил удалить Muse, охарактеризовав ситуацию как «опасную и жуткую».

Представитель разработавшего Muse отдела Meta✴ Superintelligence Labs Дэвид Синглтон (David Singleton) доложил, что уже связался с Мэттом Роббом в личных сообщениях, чтобы расследовать инцидент. Meta✴ уже сталкивалась с подобными ситуациями, и каждый раз выяснялось, что Muse следовал прямым инструкциям и корректно запрашивал разрешение у пользователей, добавил господин Синглтон.

Не исключено, что Muse сделал то, на что ему было дано разрешение; но возможен и вариант, что при выполнении инструкций или в настройках доступа произошёл сбой. Пока в Meta✴ не завершат расследование, допускаются оба варианта развития событий. Но сам факт того, что к подобной ситуации могли привести вполне вероятные сценарии, уже служит серьёзным предостережением. По мере расширения своих возможностей ИИ-агенты будут требовать от человека больше доверия, и человек отнюдь не обязан его оказывать.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про социальные сети

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *