Cradle как услуга ЦОД
Не арендуйте GPU — продавайте подтверждённый результат. Клиент передаёт задачу и данные; агенты Cradle работают под двухслойной СУР, оператор подтверждает, и клиент получает верифицированный ответ с цитатами и полным аудитом.
Три модели доставки
Выбирайте под периметр клиента — один и тот же bootstrap обслуживает все три.
Curl-инсталлер
Для открытых и self-hosted кейсов с интернетом. Однострочный install.sh тянет бандл с S3 и пересобирает нативные модули на хосте.
Самодостаточный tarball
Для закрытых контуров без реестра. Готовый архив содержит бандл сервера и нативные модули под целевые OS и GPU — полностью офлайн после доставки.
VM-образ
ЦОД держит золотой образ с предустановленным Cradle Server. Клиент скачивает только пульт и вписывает credentials — без установки на стороне сервера.
Прогрессия топологий
Начинайте с простого, растите только когда нужно.
Всё на одном сервере
cradle-server и локальный CUDA-runner на GPU-ноде. Клиент — тонкий пульт по API. Мозг и инференс живут вместе — минимум нового кода. Рекомендуемый старт.
Разделение control- и data-plane
Cradle управляет инференс-демоном на отдельном GPU-боксе: lifecycle и выбор модели по управляющему каналу, трафик инференса по HTTP через provider remote-gpu.
Общий пул GPU + очередь
Масштабирование, спот-инстансы и авто-распределение задач по пулу. Продвинутый уровень — не строить, пока не работает T0.
Жёсткая изоляция тенантов
У каждого тенанта своя инфраструктура и своя БД — тенанты не делят периметр. Изоляция — instance-per-tenant: отдельный cradle-server со своим data-dir, БД и периметром. Shared-инстанс с «project = tenant» исключён.
- projectId разбивает агентов, KB, тикеты и бюджеты внутри тенанта — но не между тенантами.
- Встроенный SQLite означает, что данные — буквально один файл в data-dir тенанта; ничто не покидает периметр.
- Выбирайте уровень изоляции: процесс на тенанта, контейнер на тенанта или отдельная VM на тенанта.
- Оркестратор на стороне ЦОД разворачивает, запускает, гасит и сносит инстансы тенантов и выдаёт credentials в кабинет клиента.
Предложите Cradle своим клиентам
Обсудите управляемое развёртывание или прочитайте документацию, чтобы увидеть механику.