Редакция ПотокаAnthropic пустит внешних проверяющих внутрь разработки моделей
Внешние проверяющие получат доступ к разработке модели раньше релиза. Разбираем, что такой формат позволяет увидеть.
Внедрим ИИ в работу вашей компании
Бесплатно разберём процессы и подготовим план запуска ИИ.
Что означает «встроенная» проверка
18 сентября Anthropic сообщила о партнёрстве с подразделением Faculty компании Accenture. Его специалисты должны оценивать модели, пробовать обходить защиту, проверять согласованность поведения и тестировать ограничения. Обычный внешний аудит часто видит готовую систему. Встроенным проверяющим обещают доступ, сопоставимый с доступом сотрудника, чтобы они могли наблюдать за разработкой раньше и задавать вопросы внутри процесса. Первоисточник.
Anthropic связывает шаг с публичным призывом руководителя компании к более проверяемому развитию сильных моделей. Стороны планируют вложить в создание такого направления не менее $1 млрд каждая в течение пяти лет. Это их инвестиционные намерения, а не уже потраченные суммы.
Вопрос о независимости остаётся
Проверка сильнее, если аудитору доступны неудобные данные и право публично говорить о найденных проблемах. Anthropic сама признаёт: стандартов доступа, формы отчёта и устойчивого финансирования встроенных проверяющих пока нет. На первом этапе компания будет напрямую оплачивать работу Accenture, одновременно обсуждая другие схемы с исследовательскими организациями.
Поэтому слово «независимый» здесь описывает роль внешней команды, но не закрывает вопрос устройства отношений. Качество программы станет заметно по опубликованным методам, праву сообщать об инцидентах и тому, какие изменения проверки реально вызвали.
Почему история важна за пределами Anthropic
Если очень мощные модели тестируют только после выпуска, некоторые риски обнаруживаются поздно. Доступ к процессу обучения и решениям о запуске может дать проверяющим больше оснований для оценки. При этом окончательная ответственность за продукт остаётся у разработчика, что Anthropic отдельно подчёркивает.
Партнёрство не доказывает безопасность конкретной модели. Оно открывает проверяемый вопрос: смогут ли внешние специалисты увидеть достаточно и рассказать о значимых находках понятным публике языком.
О материале и источниках
Редакционный материал ЛИИТ. Учебные примеры вымышлены, иллюстрации созданы с помощью ИИ.
- Официальный первоисточник
Проверены событие и условия по сообщению от 2026-09-18.
Опубликовано