Как запустить open source автопилот на своём устройстве: разбор
Как запустить open source автопилот на своём устройстве: разбор

Как запустить open source автопилот на своём устройстве: разбор

Open source автопилот теперь можно запустить на своём устройстве: NVIDIA выпустила модель Alpamayo 2 Edge, а Embedl выложила её оптимизированную версию. На железе вроде AGX Thor она работает больше чем в 10 раз быстрее PyTorch. Ниже — что это за модель, как её запустить и где подвох.

Что такое Alpamayo 2 Edge: open source автопилот для edge-железа

Alpamayo 2 Edge — это open source модель автопилота, которая на входе принимает данные с 6 камер и недавнюю историю движения. Обучена она в RL-цикле, то есть модель подстраивалась под вознаграждение, а не только под копирование человеческого вождения.

Модель выпустила NVIDIA, а Embedl — компания, где работает автор поста, — сразу выложила оптимизированную сборку. Оптимизация не косметическая: на edge-железе вроде AGX Thor сборка Embedl больше чем в 10 раз быстрее обычного запуска через PyTorch. Для автопилота это принципиально: задержка между кадром с камеры и командой на руль решает, успеет машина затормозить или нет. Данные здесь из единственного источника — поста сотрудника Embedl в r/LocalLLaMA, так что цифры — оценка автора, а не независимое измерение.

Смотреть на эту модель стоит по двум причинам. Первая — она открытая, значит её можно гонять локально, не отправляя видео с камер в чужое облако. Вторая — она уже собрана под конкретное железо, а не «когда-нибудь потом». Это редкое сочетание для автономного вождения.

Как запустить автопилот на AGX Thor: пошагово

Запустить демо можно прямо в браузере или на реальном AGX Thor — Embedl выложила страницу с готовым запуском. Отдельного репозитория с инструкцией по установке в исходнике нет, так что шаги ниже — это маршрут по опубликованной демо-странице, а не официальный гайд.

  1. Откройте страницу Embedl по ссылке из поста: embedl.com/nvidia/alpamayo2-edge/thor?tab=run.
  2. Перейдите на вкладку run — там лежит готовый сценарий запуска модели.
  3. Выберите окружение: браузерное демо или реальный AGX Thor.
  4. Проверьте, что на вход подаются 6 камер и история движения — без этого модель не заработает.
  5. Сравните скорость с базовым запуском через PyTorch, чтобы увидеть тот самый разрыв в ускорении.

Если планируете ставить на своё железо, сначала убедитесь, что у вас именно AGX Thor. Оптимизация Embedl написана под эту платформу, на другом чипе вы получите обычную скорость PyTorch и никакого ускорения. Для локального запуска ИИ-моделей на своём железе в целом пригодится наш разбор про запуск локальной LLM.

Сколько стоит и из чего складывается запуск автопилота

Точной цены в исходнике нет: ни Embedl, ни NVIDIA не публикуют прайс на модель или демо. Считать надо не лицензию, а железо и время.

Основная статья расходов — сам AGX Thor. Без него оптимизированная сборка теряет смысл: ускорение завязано на эту платформу. Вторая статья — камеры: модели нужно 6 штук, и это не вебкамера с ноутбука, а синхронизированный набор, иначе история движения поедет. Третья — время на сборку пайплайна: подача кадров, тайминги, проверка задержек. Open source здесь не значит «бесплатно», он значит «без лицензионных платежей».

Больше разборов по ИИ и автоматизации — в канале @il_chum

Что было на практике: смотрим демо и спотыкаемся

Берём ссылку из поста, открываем страницу Embedl, жмём вкладку run. Первое, что видно, — демо действительно живое: модель принимает кадры и отдаёт команды, а не просто показывает красивую картинку с лендинга. Дальше начинается интересное. Пытаемся понять, где именно включается ускорение, и упираемся в то, что вся оптимизация привязана к AGX Thor. На обычной машине вы получите тот же PyTorch и те же задержки. Это не баг, это условие задачи: Embedl делала сборку под конкретный чип, и в этом её сила и её предел.

Второй момент — входные данные. Модель ждёт 6 камер плюс недавнюю историю движения. В демо это уже подготовлено, а в своей сборке вам придётся синхронизировать потоки самому. Именно здесь чаще всего ломается: кадры приходят с разным лагом, история движения не совпадает по времени с картинкой, и модель начинает «видеть» не то, что происходит на дороге. Мы бы начинали не с модели, а с проверки синхронизации камер — иначе любая ошибка вождения спишется на ИИ, хотя виноват пайплайн. После того как тайминги сходятся, разница в скорости действительно ощущается: команды приходят заметно быстрее, чем при базовом запуске.

Кому это не подходит и что бы я сделал иначе

Честно: эта модель не для тех, кто хочет «автопилот на выходные». Если у вас нет AGX Thor, шести камер и времени на синхронизацию, вы упрётесь в первый же шаг.

Я бы не начинал с попытки собрать полноценный автопилот. Взял бы демо Embedl как эталон скорости, а свою сборку строил вокруг одного вопроса: сходится ли тайминг камер и истории движения. Если да — дальше можно наращивать. Если нет — никакое ускорение не спасёт. И ещё: не воспринимайте «в 10 раз быстрее» как универсальную цифру. Это сравнение с PyTorch на конкретном edge-железе, а не обещание, что ваша сборка полетит так же. Для понимания, как вообще ускорять модели на слабом железе, полезен разбор MoE без потерь.

Частые вопросы

Можно ли запустить Alpamayo 2 Edge без AGX Thor? Модель открытая, но оптимизированная сборка Embedl рассчитана на AGX Thor. На другом железе вы получите скорость обычного PyTorch.

Нужны ли обязательно 6 камер? Да, модель на входе принимает данные с шести камер и историю движения. Без этого пайплайн не соберётся.

Это готовый автопилот для машины? Нет. Это модель и демо для запуска на edge-железе, а не сертифицированная система вождения.


Больше разборов по ИИ и автоматизации — в канале: @il_chum