Инженер локальных AI-систем и edge-инфраструктуры: делайте ИИ устойчивым там, где нет облака
Роль на стыке AI и инфраструктуры: важно не только поднять модель или контейнер, но и сделать систему устойчивой в реальной среде с ограничениями по железу, сети и доступности. Результат измеряется не презентацией, а тем, что система разворачивается, запускается, документируется и не разваливается при изменении условий.
Ключевое преимущество роли — глубокая инженерная работа длинными фокусными блоками: задачи с понятными критериями, минимум лишней коммуникации и режима «всё срочно».
Чем предстоит заниматься
- Разворачивать локальные AI-среды: LLM, RAG, агентные сценарии и вспомогательные сервисы.
- Настраивать инфраструктуру на Ubuntu Server, Docker, Docker Compose и, при необходимости, Proxmox.
- Оптимизировать работу решений на ограниченных ресурсах: CPU, GPU, NPU, память, диск, сеть.
- Подключать локальные системы к внешним API и сервисам там, где это нужно по задаче.
- Делать offline-first и автономные сценарии, не зависящие от постоянного интернет-соединения.
- Документировать конфигурации, ограничения и шаги развёртывания.
Стек и технологии
- Базовая инфраструктура: Linux, прежде всего Ubuntu Server.
- Контейнеризация: Docker, Docker Compose; при необходимости Proxmox.
- Локальные модели: Ollama и другие локальные LLM-контуры.
- Инженерный слой: Python для скриптов, интеграций и служебной логики.
- Среда исполнения: локальные серверы, mini-PC, edge-стенды, автономные узлы.
Кому подойдёт роль
- Инженеру инфраструктуры или DevOps-специалисту, которому интересны прикладные AI-контуры.
- MLOps/AI-инженеру, которому ближе развёртывание и эксплуатация, чем исследование моделей.
- Backend-инженеру с сильной Linux-базой, любящему задачи на стыке софта и инфраструктуры.
- Специалисту, которому важен спокойный асинхронный режим и глубокий фокус.
Что предлагаем
- Удалённая работа, ближе к лабораторному R&D, чем к офисной рутине.
- Преимущественно асинхронная коммуникация, минимум синхронных обсуждений.
- Задачи ставятся с понятными критериями, без постоянного режима «всё срочно».
- Роль рассчитана на глубокую инженерную работу и длинные отрезки концентрации; подходит людям с ограничениями по мобильности.
- В команде нет авралов и дежурств; если проект потребует иного режима, это оговаривается отдельно.
- Точная загрузка и график обсуждаются отдельно.
Что считаем хорошим результатом
- Локальная AI-среда разворачивается воспроизводимо и без «ручной магии».
- Система стабильно работает на целевом железе и укладывается в ресурсные ограничения.
- Интеграции с внешними API не ломают автономность контура.
- Остаётся понятная документация: что поднято, как обслуживать, где ограничения.
Как откликнуться
Пришлите резюме или профиль, ссылки на GitHub или релевантные проекты и описание 1–3 задач, где вы разворачивали локальные или инфраструктурные AI-решения — на hello@right-digits.ru с темой «Отклик на вакансию Edge AI-инженер».
Полезно показать, на каком железе это работало, какие ограничения пришлось обойти и как вы задокументировали среду.