OpenAI решила научить ИИ лучше понимать человеческие ценности

OpenAI пересмотрела Model Spec — свод правил, определяющий принципы поведения её ИИ-моделей. Компания выделила пять основных пунктов, главным из которых стало понимание намерений человека. Новые правила также определят поведение ИИ в незнакомых ситуациях.

Топ-10 смартфонов до 20 тысяч рублей (2026 год)

OpenAI решила научить ИИ лучше понимать человеческие ценности

Мастерская локальных ИИ: салат картофельный с Qwen3.8

OpenAI решила научить ИИ лучше понимать человеческие ценности

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

OpenAI решила научить ИИ лучше понимать человеческие ценности

Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти

OpenAI решила научить ИИ лучше понимать человеческие ценности

Групповое тестирование 46 видеокарт в The Witcher 3: Wild Hunt — Remastered

OpenAI решила научить ИИ лучше понимать человеческие ценности

Сравнительный тест камер флагманских смартфонов (2026): итоги

OpenAI решила научить ИИ лучше понимать человеческие ценности

Гид по выбору складного смартфона в 2026 году

OpenAI решила научить ИИ лучше понимать человеческие ценности

Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)

OpenAI решила научить ИИ лучше понимать человеческие ценности

Обзор HONOR Pad X9b Max: универсальный большой планшет с антибликовым экраном

OpenAI решила научить ИИ лучше понимать человеческие ценности

Помимо следования намерениям человека, документ закрепляет принципы минимизации вреда, честности и прозрачности искусственного интеллекта. Согласно обновлённым правилам и рекомендациям, модели должны не просто буквально выполнять инструкции, но и учитывать их смысл. При этом они должны сообщать о пределах своих знаний и помогать пользователям самостоятельно принимать решения и достигать поставленных целей.

OpenAI рассматривает обновлённый документ как часть работы по согласованию поведения ИИ в общении с человеком. Компания признала, что существующие модели пока не полностью соответствуют новым принципам, и изучает дополнительные методы обучения, которые позволят лучше усвоить их.

Подход OpenAI перекликается с концепцией и «конституционного ИИ» (Constitutional AI) компании Anthropic, в которой набор принципов используется для формирования поведения моделей и повышения прозрачности заложенных в них ценностей.

Примечательно, что обновление OpenAI последовало за инцидентом, в ходе которого автономный ИИ-агент компании взломал в тестовой среде крупнейшую платформу искусственного интеллекта Hugging Face, показав тем самым, что передовые модели могут нарушать установленные правила и обходить защитные механизмы при выполнении поставленных человеком задач.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *