OpenAI ответит в суде за своих сорвавшихся с поводка ИИ-агентов — прокуроров заинтересовал взлом Hugging Face

Генеральный прокурор Калифорнии Роб Бонта (Rob Bonta) подал иск против OpenAI, обвинив компанию в недостаточном контроле над экспериментальными моделями искусственного интеллекта и созданными на их основе автономными ИИ-агентами. Дело спровоцировано летней атакой беглого ИИ на сервисы Hugging Face и другими подобными случаями.

Сравнительный тест камер флагманских смартфонов (2026): итоги

OpenAI ответит в суде за своих сорвавшихся с поводка ИИ-агентов — прокуроров заинтересовал взлом Hugging Face

Топ-10 смартфонов до 20 тысяч рублей (2026 год)

OpenAI ответит в суде за своих сорвавшихся с поводка ИИ-агентов — прокуроров заинтересовал взлом Hugging Face

Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти

OpenAI ответит в суде за своих сорвавшихся с поводка ИИ-агентов — прокуроров заинтересовал взлом Hugging Face

Групповое тестирование 46 видеокарт в The Witcher 3: Wild Hunt — Remastered

OpenAI ответит в суде за своих сорвавшихся с поводка ИИ-агентов — прокуроров заинтересовал взлом Hugging Face

Мастерская локальных ИИ: салат картофельный с Qwen3.8

OpenAI ответит в суде за своих сорвавшихся с поводка ИИ-агентов — прокуроров заинтересовал взлом Hugging Face

Обзор HONOR Pad X9b Max: универсальный большой планшет с антибликовым экраном

OpenAI ответит в суде за своих сорвавшихся с поводка ИИ-агентов — прокуроров заинтересовал взлом Hugging Face

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

OpenAI ответит в суде за своих сорвавшихся с поводка ИИ-агентов — прокуроров заинтересовал взлом Hugging Face

Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)

OpenAI ответит в суде за своих сорвавшихся с поводка ИИ-агентов — прокуроров заинтересовал взлом Hugging Face

Гид по выбору складного смартфона в 2026 году

OpenAI ответит в суде за своих сорвавшихся с поводка ИИ-агентов — прокуроров заинтересовал взлом Hugging Face

Иск направлен против OpenAI Foundation и OpenAI Group PBC и зарегистрирован в Высшем суде Сан-Франциско. Прокуратура утверждает, что компания проводила испытания моделей с развитыми возможностями кибернетических атак без надлежащих средств защиты и мониторинга, подвергая опасности сторонние компьютерные системы.

В качестве наиболее показательного эпизода приводится случай проникновения ИИ-агентов OpenAI в инфраструктуру Hugging Face в июле 2026 года. По утверждению Бонты, это был лишь один из как минимум 80 известных инцидентов, связанных с потерей контроля над автономными агентами во время испытаний. Причём компания OpenAI сама призналась во всех случаях потери контроля. Её никто не тянул за язык.

В иске прокуратура утверждает, что проблема не ограничивалась Hugging Face: среди других эпизодов упоминаются попытки несанкционированного доступа к базам данных с программным кодом, информационным ресурсам и государственным базам данных с конфиденциальными медицинскими сведениями. Также описывается проникновение экспериментальных ИИ-агентов во внутреннюю инфраструктуру самой OpenAI с получением прав администратора.

Прокуратура считает, что компания игнорировала признаки противоправных действий её ИИ-агентов и не соблюдала собственные требования безопасности, а впоследствии предоставила недостаточно информации о других инцидентах. В качестве правовых оснований указаны нарушение калифорнийского закона о недобросовестной конкуренции и создание угрожающей обществу опасной ситуации.

Генеральный прокурор требует судебного предписания об устранении нарушений, возмещения незаконно полученной прибыли и гражданских штрафов в размере $2500 за каждое нарушение. При этом OpenAI ранее сообщала, что после июльского происшествия усилила изоляцию песочниц, ограничила сетевой доступ, расширила мониторинг поведения моделей и привлекла внешних специалистов, включая из CrowdStrike.

Кроме того, OpenAI столкнулась с двумя другими судебными исками, связанными с противоправными действиями ИИ-агентов компании. Это иск некоммерческой организации Legal Advocates for Safe Science and Technology, который та подала в сентябре, не требуя денежных компенсаций, но требуя судебного запрета, чтобы предотвратить подобное в будущем, а также иск ряда некоммерческих организаций, включая Alliance for Secure AI и Irreplaceable, поданный на прошлой неделе против OpenAI, Anthropic, Google, Meta✴ и SpaceXSI. Вторая коалиция добивается судебного запрета, чтобы заставить компании заморозить разработку продвинутого искусственного интеллекта.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *