Компания Anthropic ведёт разработку открытой системы для верификации того, какая именно модель искусственного интеллекта создала тот или иной результат. Проект под названием FlashProve призван обеспечить так называемый «доказуемый вывод» (provable inference). Речь идёт о криптографическом доказательстве и математической гарантии подлинности источника данных, которые позволят пользователям подтвердить, что они используют именно заявленную модель.
Групповое тестирование 46 видеокарт в The Witcher 3: Wild Hunt — Remastered
Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти
Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)
Гид по выбору складного смартфона в 2026 году
Сравнительный тест камер флагманских смартфонов (2026): итоги
Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700
Обзор HONOR Pad X9b Max: универсальный большой планшет с антибликовым экраном
Мастерская локальных ИИ: салат картофельный с Qwen3.8
Топ-10 смартфонов до 20 тысяч рублей (2026 год)
По аналогии с криптографическими подписями электронных писем, FlashProve обеспечит защиту от попыток выдать одну модель за другую. Защита сохраняет эффективность даже в тех случаях, когда подмену пытается скрыть сама лаборатория, разработавшая и запустившая ИИ. В частности, исследователи отмечают, что технологию можно применять для предотвращения ситуаций, когда ИИ-компания тайно внедряет более дешёвую модель ради снижения издержек или более дорогую — для искусственного завышения результатов тестов производительности.
FlashProve также может применяться для верификации заявлений третьих лиц о том, что конкретная задача была решена с помощью передовых нейросетей. «Разработчик может утверждать, что его библиотека программного обеспечения была проверена на наличие уязвимостей передовой моделью кибербезопасности, или компания может заявить, что её бизнес-план был одобрен соответствующей моделью. [Но] как пользователь может проверить эти утверждения?», — пишут исследователи.
Для работы верификации ИИ-лаборатории должны публиковать «цифровой отпечаток» каждой выпускаемой модели, который впоследствии криптографически сопоставляется с конкретными ответами. Эти отпечатки не раскрывают веса моделей — внутренние числовые параметры, определяющие поведение ИИ, которые разработчики закрытых коммерческих систем, такие как Anthropic и OpenAI, держат в секрете. Соответственно, лаборатории смогут публиковать отпечатки без риска для интеллектуальной собственности. Система спроектирована как легковесная, что позволяет проводить проверку непосредственно на локальном устройстве пользователя.
На данный момент проект находится на стадии исследования, планов по немедленному внедрению технологии в Anthropic или других лабораториях нет. Подробная спецификация и рабочий код элементов системы опубликованы под открытой лицензией на GitHub.
«Эта исследовательская публикация предназначена для того, чтобы поделиться промежуточным прогрессом, а не завершённой программой исследований. Мы делимся этим явно с той целью, чтобы другие изучили то, что мы сделали, взяли это за основу и улучшили», — пояснили авторы проекта.
Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект