AI-системы, которые остаются в вашем контуре

Агентные системы, RAG-поиск и self-hosted inference, которые можно развернуть, проверить и поддерживать у себя. Данные, модели и логи не уходят наружу.

Обсудить задачу

AI-системы, которые остаются в вашем контуре

Обсудить задачу

Промер — этап пути запроса и наша услуга. Нажмите, чтобы прочитать.

Якорная стоянка — ваш контур: on-prem или своё облако.

Опасности — что бывает без контура. Тоже нажимаются.

В открытом море: нажмите «Проложить курс»

Нажмите на промер 1–4 или на опасность на карте: здесь появится описание.

Промер — этап пути запроса и наша услуга. Нажмите, чтобы прочитать.

Якорная стоянка — ваш контур: on-prem или своё облако.

Опасности — что бывает без контура. Тоже нажимаются.

карта интерактивна: промеры и опасности нажимаютсясудно идёт по курсу от прокрутки, наведения или кнопкитак и работаем: всё внутри вашего периметра

Четыре направления, одна граница ответственности

Что входит, что нужно от вас и что получите. Граница проходит там, где решение принимает ваша команда.

промер 1

Агентные системы

Оркестрация, вызов инструментов, память, права и подтверждения, защита от prompt injection.

Что нужно и что получите

От вас: описание процессов, доступ к системам, с которыми работает агент, и человек, отвечающий за правила
Результат: агент с описанными контрактами инструментов, журналом действий и точками подтверждения
Граница: мы отвечаем за поведение агента в описанных сценариях, правила бизнеса задаёте вы

Подробнее об агентных системах

промер 3

Self-hosted inference

vLLM, Kubernetes, работа в закрытом контуре, выбор моделей, производительность и стоимость.

Что нужно и что получите

От вас: доступ к кластеру или серверам с GPU и требования по безопасности
Результат: работающий inference-сервис с мониторингом и описанием эксплуатации
Граница: мы настраиваем и передаём, железо и сеть остаются вашей зоной

Подробнее об inference

промер 2

RAG и семантический поиск

Чанкирование, эмбеддинги, гибридный поиск, реранкинг, оценка качества retrieval.

Что нужно и что получите

От вас: корпус документов и хотя бы несколько десятков вопросов с ожидаемыми ответами
Результат: поисковый контур с измеренным качеством и регрессионным набором
Граница: качество измеряется на согласованном наборе, данные остаются у вас

Подробнее о поиске

промер 4

Evals и наблюдаемость

LLM-как-судья, регрессионные наборы, метрики, мониторинг качества в проде.

Что нужно и что получите

От вас: доступ к логам системы и участие эксперта предметной области в разметке
Результат: панель качества и регрессионные прогоны при каждом изменении
Граница: мы строим измерение, решение о выкатке принимает ваша команда

Подробнее об evals

Стек: Python, asyncio, FastAPI, PostgreSQL, vLLM, Kubernetes. Только то, что реально используем. Цены на сайте не публикуем: оценка под задачу после разбора.

Система не заканчивается на ответе модели

Четыре этапа. У каждого понятная граница и письменный результат на выходе.

Разбор задачинеделя 1

Фиксируем, что и чем измерять

Данные, ограничения контура и критерии качества. Без этого нельзя понять, стало ли лучше.

на выходе: описание задачи и оценка

Прототип с метрикамиизмеримо

Первая версия на ваших данных

Сравниваем варианты retrieval и промптов на регрессионном наборе, а не на ощущениях.

на выходе: прототип и таблица метрик

Развёртывание в контуреon-prem или облако

vLLM и Kubernetes в вашей инфраструктуре

Модели, эмбеддинги и логи не покидают периметр.

на выходе: система в вашем кластере

Эксплуатация и evalsпостоянно

Качество в проде под наблюдением

Регрессии при смене модели, защита от prompt injection, отчёты по качеству.

на выходе: отчёты и план улучшений

Открытый код вместо обещаний

Ядро, на котором мы строим агентов, лежит в открытом доступе. Его можно прочитать, запустить и проверить до первого созвона.

# ядро для LLM-агентов с состоянием, MPL-2.0 $ pip install protocore # цикл «рассуждение — действие», контракты инструментов, состояние между шагами $ git clone https://github.com/anchor-inference/protocore-community # автономный агент в Linux-контейнере поверх Protocore $ git clone https://github.com/ascorblack/daedalus без выдуманных клиентов и цифр: только код и тесты

protocore

Протокол-ориентированное ядро: каждый шаг описан, каждый вызов инструмента проверяем. Python, asyncio.

github.com/anchor-inference/protocore-community

daedalus

Агент, живущий в контейнере: инструменты, планирование, ограничения на действия. Изменения собственного кода только через проверяемый pull request.

github.com/ascorblack/daedalus

опыт по найму

Электронно-библиотечная система: работа с большими объёмами текстов и семантический поиск по ним. Внутренняя архитектура и объёмы не публикуются, это данные работодателя.

Договор с компанией-исполнителем, а не наём в штат.

Исполнитель — казахстанское ТОО. Для договора с ним заказчику не нужно разрешение на привлечение иностранной рабочей силы, в отличие от найма иностранца в штат. Кому принадлежит код, фиксируется в договоре.

это не юридическая консультация, проверьте с вашим юристом

Что произойдёт после письма

рабочий деньответим и предложим время созвона

30 минуткороткий созвон о задаче и контуре

письменноописание задачи и оценка

Напрямую: ascorblack@gmail.com или Telegram @notsoulmate

Подробная форма и что нужно для первого созвона