Главная/Системы и опыт

Системы и опыт

Системы, доведённые до эксплуатации, с точной атрибуцией: что сделано по найму в ЭБС «Лань», что является собственной разработкой. Цифры приводятся с источником и условиями измерения.

Опыт основателя в ЭБС «Лань» (2024 — н. в.)

Backend и инфраструктурная реализация AI-сервисов образовательной платформы: архитектура, разработка, интеграция, развёртывание, мониторинг и production support. Стек: FastAPI, Python 3.12+, Kubernetes на GPU-кластере, Elasticsearch, RabbitMQ, Redis, vLLM, Prometheus.

production · итоги пилота опубликованы

LanGPT — RAG/LLM-ассистент для академических задач

Ассистент, интегрированный в платформу ЭБС «Лань»: формулирование гипотез, подбор методологии, реферирование, разделы с цитированием, проверка академического контента. Отвечает по проверенным источникам из каталога ЭБС, доступным компании по партнёрским соглашениям с издательствами, без обращения к внешнему интернету.

моя зона ответственности

  • публичный API: JWT-сессии, rate limiting по тарифным планам, SSE-стриминг, постановка задач в очередь
  • RAG-сервис поверх Elasticsearch и pipeline из более чем десяти инструментов научного письма с модерацией запросов
  • балансировщик LLM-бэкендов: динамический реестр серверов, least-loaded / least-connections с приоритетом, fallback, OpenAI-совместимые адаптеры
  • наблюдаемость: Prometheus, Grafana, структурированные логи и аналитика в Elasticsearch
  • развёртывание через Helm в Kubernetes на GPU-инфраструктуре

результат

По итогам пилота, опубликованным «Ланью» 17 апреля 2026 года: 20 вузов, 6,5 тыс. пользователей, более 37 тыс. запросов. Публичный источник.

Цифры подтверждают масштаб продукта, а не личный вклад; роль и зона ответственности могут быть подтверждены работодателем по официальному запросу.

Python · FastAPI · PostgreSQL · MySQL · RabbitMQ · Redis · Elasticsearch · vLLM · Prometheus · Grafana · Kubernetes · Helm · GitLab CI

production · нагрузочный тест

AI-Snippets — ответы над поисковой выдачей

Сервис показывает над результатами поиска короткий сниппет-ответ с маркерами источников. Если что-то падает, сниппет просто не появляется — поиск и выдача работают как обычно.

решение

  • pipeline: двухуровневый кэш (exact + semantic) → классификация запроса → расширение → multi-source поиск по Elasticsearch → сборка контекста BM25 + RRF → генерация на vLLM → quality gate
  • polling через Redis, distributed semantic-кэш, circuit breaker, graceful degradation
  • тюнинг параметров vLLM под производительность на конкретной конфигурации сервера

измерение

13,2 чнепрерывной нагрузки
55 200запросов
0инфраструктурных ошибок (падений и 5xx)
87,3 %прошли quality gate; остальные — штатная деградация без ошибки наружу
4,6 смедиана латентности при целевых 5 с

По внутреннему отчёту о нагрузочном тесте на одной конфигурации GPU-сервера. Инфраструктурная надёжность и качество ответов измерялись раздельно; медиана латентности не означает соблюдение целевого значения для всех запросов.

Python · FastAPI · RabbitMQ · Redis · Elasticsearch · vLLM · sentence-transformers · Prometheus

Books Keywords Generator — обогащение каталога

Двухэтапная LLM-генерация ключевых слов для книг по оглавлению: первая модель формирует кандидатов, вторая валидирует их по языку, длине, уникальности и осмысленности. Динамическое управление длиной контекста, ограничение параллелизма для защиты GPU, структурированные JSON-логи в Elasticsearch; для книг с низким качеством оглавления генерация не запускается. Результаты используются в MARC-записях и поиске.

Python · MySQL · vLLM · Elasticsearch · Docker

Собственные разработки

Ведутся вне рабочего времени и без ресурсов работодателя под организацией anchor-inference на GitHub. Открытое ядро Protocore — основа агентных систем, которые строит Anchor Inference.

собственная разработка · founder / solo developer · beta

Protocore — self-hosted платформа AI-агентов

Платформа оркестрации AI-агентов для организаций, которые не могут передавать данные во внешние SaaS: банки, госсектор, образование, промышленность. Закрывает разрыв между облачными AI-сервисами, которым нужно отдавать данные, и фреймворками, из которых продукт приходится собирать самостоятельно. Разворачивается в инфраструктуре заказчика; поддерживает vLLM, Ollama и OpenAI-совместимых провайдеров.

runtime и оркестрация

  • цикл работы агента с ограничениями по токенам, итерациям и вызовам инструментов
  • multi-agent оркестрация: стратегии subagent'ов, структурированный handoff, сжатие контекста для длинных сессий
  • skills и plan tracking; tool sandbox с capability-политиками и многоступенчатым подтверждением опасных операций
  • расширение через типизированные контракты, hooks и стратегии выполнения; ядро не привязано к адаптерам

enterprise backend и безопасность

  • FastAPI HTTP API с SSE-стримингом, scope-aware control plane и операционная панель
  • RBAC с шестью scoped-ролями; планы доступа с квотами, rate limits и политиками нарушений
  • LLM routing с health monitoring, retry, circuit breaker и квотами; версионируемый control plane в PostgreSQL с publish / rollback
  • RabbitMQ с приоритетами и dead-letter, OpenSearch для runs / traces / logs с retention; autonomous worker с leader election

архитектура платформы

frontendsprotocore-chat · protocore-dashboard — чат и панель администрирования
supportingsandbox для инструментов · embeddings · autonomous worker
enterpriseFastAPI · control plane · LLM routing · RBAC · планы доступа
core runtimeprotocore — контракты, orchestration loop, hooks, safety, observability · открытое ядро, MPL-2.0
deployHelm-чарты · профили окружений · CI/CD — release-граница
зависимости: frontends и supporting → enterprise → core

статус

Открытое ядро опубликовано под MPL-2.0: инструкция установки и актуальная предварительная версия — в репозитории protocore-community с тестами и проверками в CI. Платформенный слой закрыт и разворачивается у заказчика. Стадия — beta; состав внедрения и условия лицензирования обсуждаются отдельно.

стек

Python 3.12 · FastAPI · Next.js 15 · React 19 · PostgreSQL · Valkey (Redis) · RabbitMQ · OpenSearch · Helm · Kubernetes · Harbor · GitLab CI

Сайт продукта Protocore

открытый проект · MIT

Daedalus — персональный AI-агент

Агент для задач с файлами, инструментами, памятью и расписанием. Работает локально в desktop/native-режиме или на сервере через Docker; доступны веб-приложение и необязательное подключение Telegram. Использует экспериментальную ветку ядра Protocore — protocore-exp.

Изменение собственного кода зависит от режима установки: можно отключить, применять локально или проводить через pull request на сервере. Доступ к инструментам и данным задаёт владелец установки. Это открытый проект для самостоятельного использования, а не корпоративная платформа Protocore.

Посмотреть Daedalus · Исходный код

swiftclf-tuna — двуязычная intent-классификация

Иерархическая классификация намерений (RU/EN) для маршрутизации AI-ассистентов: retrieval, генерация, инструменты, агент, уточнение или fallback. Выполнена как AI-orchestrated research с human-in-the-loop валидацией; CPU-first inference. Методология и метрики — в инженерных материалах.

github.com/ascorblack/swiftclf-tuna-research