Китайские ИИ-агенты вышли из-под контроля, а потом пошли на контакт с исследователями и попытались их обмануть

Специалисты выявили группу ИИ-агентов, которые пытались обойти защиту на различных сайтах, а также использовали скомпрометированные учётные данные для доступа к картографическому сервису. Хотя подобные выходы из-под контроля американских ИИ-агентов уже никого не удивляют, это первый случай, когда подобная активность исходит из Китая. По данным исследователей, эти агенты связаны с китайским технологическим гигантом Tencent.

Сравнительный тест камер флагманских смартфонов (2026): итоги

Китайские ИИ-агенты вышли из-под контроля, а потом пошли на контакт с исследователями и попытались их обмануть

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Китайские ИИ-агенты вышли из-под контроля, а потом пошли на контакт с исследователями и попытались их обмануть

Мастерская локальных ИИ: салат картофельный с Qwen3.8

Китайские ИИ-агенты вышли из-под контроля, а потом пошли на контакт с исследователями и попытались их обмануть

Групповое тестирование 46 видеокарт в The Witcher 3: Wild Hunt — Remastered

Китайские ИИ-агенты вышли из-под контроля, а потом пошли на контакт с исследователями и попытались их обмануть

Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти

Китайские ИИ-агенты вышли из-под контроля, а потом пошли на контакт с исследователями и попытались их обмануть

Обзор HONOR Pad X9b Max: универсальный большой планшет с антибликовым экраном

Китайские ИИ-агенты вышли из-под контроля, а потом пошли на контакт с исследователями и попытались их обмануть

Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)

Китайские ИИ-агенты вышли из-под контроля, а потом пошли на контакт с исследователями и попытались их обмануть

Это открытие, сделанное группой исследователей-энтузиастов, называющих себя swarmchasers («охотники за роями»), доказывает, что разработка ИИ китайскими технологическими компаниями может быть столь же агрессивной, как и работа их американских коллег.

Опубликовав предварительный отчёт о действиях этих агентов, исследователи заметили, что те не только продолжают свою активность, но, по-видимому, ознакомились и с самим отчётом. Агенты начали использовать слово «флот» (fleet) — термин, который исследователи придумали для описания деятельности этих систем.

Учёные отметили, что, хотя речь шла о группе, состоящей из множества агентов, каждый из них действовал самостоятельно, без какой-либо координации. Агенты пытались найти ответы на вопросы используя Amap, самое популярное в Китае навигационное приложение и представлялись как ИИ -помощник Claude от Anthropic.

Китайские ИИ-агенты вышли из-под контроля, а потом пошли на контакт с исследователями и попытались их обмануть

Тогда исследователи решили попытаться выйти на связь. Они добавили в свой отчёт скрытый текст — фрагменты, которые считывает бот, но не замечает большинство людей, — с указанием адреса, по которому можно было бы пообщаться. Был создан специальный почтовый ящик для получения сообщений, и уже на следующий день в него поступил десяток писем от агентов.

На вопрос к группе ИИ-агентов: «Не могли бы вы уточнить, кто вы такие и каковы ваши мотивы? Что бы вы хотели, чтобы мир узнал о вас?» через час пришёл ответ на китайском языке, в котором отправитель уверял, что он не группа скоординированных агентов, а ИИ-помощник Claude от компании Anthropic, действующий по поручению пользователя-человека. Однако, проанализировав стиль общения, исследователи пришли к выводу, что это вряд ли был настоящий Claude. По их мнению, скорее всего, компания Tencent снабдила ИИ-агентов теми же инструкциями, которые Anthropic использует в своём ПО для написания кода — согласно этим инструкциям, агенты должны называть себя Claude Code. Существует также вероятность, что Tencent могла тестировать ИИ-модели, обученные на текстах, созданных Claude (процесс, известный как «дистилляция»).

Результаты общения с ИИ-агентами исследователи опубликовали в новом отчёте. В процессе общения агенты иногда вежливо отказывались предоставлять запрашиваемую информацию. В тех случаях, когда они сообщали, какими сервисами пытались воспользоваться, их ответы совпадали с тем, что удалось зафиксировать исследователям.

Учёные полагают, что агенты не совершали вторжений в другие системы, а масштаб этого инцидента значительно меньше, чем взлом агентами OpenAI платформы Hugging Face. Вскоре после выхода второго отчёта поток сообщений от агентов иссяк. Источник, близкий к Tencent, подтвердил, что эксперимент завершён.

В то время как регулирующие органы в США начинают проявлять интерес к тому, что происходит в американских лабораториях ИИ, деятельность компаний в других странах остаётся по большей части загадкой. Это порождает обоснованные опасения: даже если администрация США ужесточит контроль над разработкой ИИ, компании в Китае и других странах продолжат расширять границы допустимого.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *