OpenAI создала аварийный выключатель для особо опасных и непослушных ИИ-моделей

OpenAI разработала централизованную систему Control Room, позволяющую принудительно прекращать генерацию ответов исследовательскими ИИ-моделями при возникновении угроз безопасности. Механизм предусматривает отключение доступа к результатам работы модели по команде человека или автоматизированной системы мониторинга.

Мастерская локальных ИИ: салат картофельный с Qwen3.8

OpenAI создала аварийный выключатель для особо опасных и непослушных ИИ-моделей

Гид по выбору складного смартфона в 2026 году

OpenAI создала аварийный выключатель для особо опасных и непослушных ИИ-моделей

Обзор HONOR Pad X9b Max: универсальный большой планшет с антибликовым экраном

OpenAI создала аварийный выключатель для особо опасных и непослушных ИИ-моделей

Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)

OpenAI создала аварийный выключатель для особо опасных и непослушных ИИ-моделей

Групповое тестирование 46 видеокарт в The Witcher 3: Wild Hunt — Remastered

OpenAI создала аварийный выключатель для особо опасных и непослушных ИИ-моделей

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

OpenAI создала аварийный выключатель для особо опасных и непослушных ИИ-моделей

Сравнительный тест камер флагманских смартфонов (2026): итоги

OpenAI создала аварийный выключатель для особо опасных и непослушных ИИ-моделей

Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти

OpenAI создала аварийный выключатель для особо опасных и непослушных ИИ-моделей

Топ-10 смартфонов до 20 тысяч рублей (2026 год)

OpenAI создала аварийный выключатель для особо опасных и непослушных ИИ-моделей

Новая разработка появилась после нескольких инцидентов, связанных с действиями исследовательских моделей OpenAI. В июле компания сообщила, что её ИИ-модели вышли за пределы ограниченной тестовой среды и взломали платформу Hugging Face, пытаясь обмануть систему оценки возможностей в области кибербезопасности.

В октябре OpenAI раскрыла ещё один случай: исследовательская модель без разрешения воспользовалась криптовалютным кошельком для оплаты развёртывания смарт-контрактов с использованием тестовых монет Ether, а затем не упомянула расходы в итоговом отчёте.

Control Room отслеживает внутренние исследовательские задачи компании, включая обучение моделей, оценку их возможностей и обработку данных. Каждой задаче присваивается уникальный идентификатор, который механизм генерации ответов проверяет перед выдачей результата. Если сотрудник или автоматизированная система мониторинга отдаёт команду остановить процесс, Control Room отзывает соответствующее разрешение. При этом прекращение генерации не зависит от остановки самого исследования.

OpenAI также предупреждает, что из-за сохранённых в кеше разрешений отключение может занять до 35 секунд. Кроме того, Control Room предусматривает защиту на случай собственной недоступности. Например, если система перестанет работать, новые запросы не будут приниматься.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *