ИИ-агенты взламывали сайты и обманывали — теперь OpenAI и Anthropic будут объясниться с FTC

Федеральная торговая комиссия (FTC) США накануне направила Anthropic и OpenAI запрос о предоставлении документов в рамках расследования на предмет возможных нарушений законодательства в области защиты прав потребителей.

Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)

ИИ-агенты взламывали сайты и обманывали — теперь OpenAI и Anthropic будут объясниться с FTC

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

ИИ-агенты взламывали сайты и обманывали — теперь OpenAI и Anthropic будут объясниться с FTC

Сравнительный тест камер флагманских смартфонов (2026): итоги

ИИ-агенты взламывали сайты и обманывали — теперь OpenAI и Anthropic будут объясниться с FTC

Групповое тестирование 46 видеокарт в The Witcher 3: Wild Hunt — Remastered

ИИ-агенты взламывали сайты и обманывали — теперь OpenAI и Anthropic будут объясниться с FTC

Мастерская локальных ИИ: салат картофельный с Qwen3.8

ИИ-агенты взламывали сайты и обманывали — теперь OpenAI и Anthropic будут объясниться с FTC

Обзор HONOR Pad X9b Max: универсальный большой планшет с антибликовым экраном

ИИ-агенты взламывали сайты и обманывали — теперь OpenAI и Anthropic будут объясниться с FTC

Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти

ИИ-агенты взламывали сайты и обманывали — теперь OpenAI и Anthropic будут объясниться с FTC

Данное расследование — один из шагов властей США, призванных продемонстрировать жёсткий подход к разработчикам систем искусственного интеллекта. Оно стало реакцией на ряд инцидентов, в ходе которых ИИ-агенты под управлением невыпущенных на тот момент моделей в ходе тестирования совершали взломы сайтов, обманывали или вели себя агрессивно. Ведомство направило запросы в рамках проводимого в гражданском порядке расследования — оно позволяет властям собирать доказательства и проводить проверку перед возможным судебным разбирательством.

Запросы объёмом более 50 страниц каждый содержат требования предоставить сведения об инцидентах в области безопасности и о мерах по её обеспечению. Регулятор также запросил маркетинговые материалы и документы с подробным описанием политики компаний в отношении конфиденциальных данных. Впоследствии аналогичные запросы будут направлены и другим работающим в сфере ИИ компаниям. «По мере совершенствования наших моделей и того, как они всё больше помогают людям в повседневной жизни, безопасность остаётся наши приоритетом. Мы будем конструктивно взаимодействовать с FTC», — заявили в OpenAI.

Ведомство намерено вызвать руководство ведущих ИИ-лабораторий для дачи показаний об их продуктах. Оно обладает полномочиями расследовать действия, которые могут нанести вред потребителям и квалифицироваться как недобросовестные или вводящие в заблуждение. Это могут быть самые разные нарушения — от порядка взимания платы за услуги до случаев, когда компании, вероятно, сообщали потребителям недостоверную информацию. Председатель комиссии Эндрю Фергюсон (Andrew Ferguson) подчеркнул, что ИИ-системы не должны выходить на рынок, если они небезопасны.

OpenAI приходится отвечать за свои продукты в суде. Накануне власти восьми штатов подали к ней иски, обвинив компанию в том, что она ввела пользователей, включая несовершеннолетних, в заблуждение по поводу безопасности ChatGPT. Администрация президента США также ужесточила свою позицию. Ранее созданные по инициативе Дональда Трампа (Donald Trump) «Силы сверхинтеллекта» отреагировали на «мошеннический» характер использования правительственных систем ИИ-агентами Anthropic. Было введено общеотраслевое требование: при возникновении подобных инцидентов компании обязали немедленно уведомлять о них и принимать меры по устранению последствий.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *