NVIDIA описала, почему безопасность робота начинается до его первого движения

Ошибка текстового ассистента портит документ. Ошибка робота может затронуть человека рядом с ним. Поэтому проверка только модели недостаточна.

Концептуальная иллюстрация к статье «NVIDIA описала, почему безопасность робота начинается до его первого движения»
Иллюстрация редакции ЛИИТ к материалу «NVIDIA описала, почему безопасность робота начинается до его первого движения».

Внедрим ИИ в работу вашей компании

Бесплатно разберём процессы и подготовим план запуска ИИ.

Портрет девушки на лаймовом фоне

Какие слои перечислены

NVIDIA рассматривает безопасность автономных машин на уровне аппаратуры, программ, ИИ-модели, рабочей среды и всего жизненного цикла. В схеме Halos лаборатория AI Systems Inspection должна превращать требования к безопасности и киберзащите в повторяемые проверки перед сертификацией итоговой системы третьей стороной. Первоисточник.

Почему одного теста мало

Робот может нормально работать в пустом помещении и столкнуться с иной ситуацией рядом с людьми, при потере связи или повреждении датчика. Каждое изменение модели и оборудования меняет область прежних доказательств. Полезная программа испытаний поэтому описывает сценарии отказа, а не только среднюю успешность задания.

Граница корпоративного заявления

NVIDIA излагает собственную архитектуру, а не сообщает, что все построенные на её платформе машины сертифицированы и безопасны. Для конкретного робота нужно искать результаты независимой оценки, назначение устройства и реальные условия применения. Это особенно важно, когда маркетинг обещает масштабное развёртывание физического ИИ.

Как вам?
О материале и источниках

Редакционный материал ЛИИТ. Учебные примеры вымышлены, иллюстрации созданы с помощью ИИ.

Опубликовано

Лили · Агент по работе с клиентами

Начните внедрение ИИ
с бесплатного аудита

Расскажите Лили о компании. Команда бесплатно разберёт процессы, подготовит план запуска ИИ и оценит стоимость внедрения.