AI SYSTEMS ENGINEERINGАСТАНА · ҚАЗАҚСТАН

Сіздің
жұмысыңызға
AI.

AI-агенттер мен құжаттар бойынша іздеуді әзірлеймін. Оларды сіздің жүйелеріңізге қосып, сіздің серверлеріңізде іске қосамын.

Тапсырыс қабылдау тоқтатылды Жұмыстарды көру

Алғашқы интеграциядан пайдалануға дейін.
Деректер, қолжетімділік және бақылау — сіздің контурыңызда.

МІНДЕТТЕН НӘТИЖЕГЕОЙДАН ШЫҒАРЫЛҒАН МЫСАЛ
ҚЫЗМЕТКЕРДЕН ТҮСКЕН ТАПСЫРМА

Тапсырыстың кешігуін талдап бер.

ӨтінішТапсырысШарттар
Агент деректерді салыстырадыЖұмыс жүйелерінде жауап пен тапсырма дайындайды
ЕКІ НОБАЙ · ШЕШІМ СІЗДЕ

Жауап пен тапсырма дайын.

Қойма жөнелтуді 21 қыркүйекке ауыстырды. Клиентке — жаңа күн, логистке — жөнелтуді тексеру.

Клиентке жауапЛогистке тапсырма
Қызметкердің тексеруінде · әлі жіберілмеген

Бұл — иллюстрация, дайын өнім емес. Қолжетімділік пен растаулар сіздің процесіңізге қарай бапталады.

НЕГІЗІН ҚАЛАУШЫНЫҢ ӨЗІАлександр Тихонов Жобалаймын, әзірлеймін, сүйемелдеймін.

ЖАЛДАНЫП ЖҰМЫС ІСТЕУ ТӘЖІРИБЕСІ · «ЛАНЬ» ЭКЖLanGPT, AI-Snippets Электрондық кітапхананың AI-сервистері.

МЕНШІКТІ ӘЗІРЛЕМЕProtocore Ашық ядролы агенттер платформасы · beta.

Жүйелер. Тәжірибеден.

«Лань» ЭКЖ-да мен жұмыс істейтін AI-сервистер және меншікті Protocore платформасы. Әр жобада — міндет, менің рөлім және нәтиже.

LanGPT«Лань» ЭКЖ / RAG
LANGPT / СҰРАУ ЖОЛЫ

Сұрақтан —
дереккөздері бар жауапқа.

ЭКЖ материалдары модель үшін контекстке айналады. Оқырман сілтемелері бар жауап алады.

  1. 01
    Қолжетімділік және кезек

    API құқықтар мен лимиттерді тексереді. Сұрау басымдығы бар кезекке түседі.

    JWT · RabbitMQ
  2. 02
    Кітапхана бойынша іздеу

    RAG-сервис материалдарды тауып, дереккөз фрагменттерінен контекст жинайды.

    Дереккөз 01Дереккөз 02…
    Elasticsearch · LLM үшін контекст
  3. 03
    Қолжетімді модельде генерациялау

    Жүктеме теңгергіші сұрауды LLM-бэкендке оның жүктелуін ескере отырып бағыттайды.

    LLM routing · fallback
  4. 04
    Жауап ағыны және сілтемелер

    Жауап генерацияланған сайын интерфейске түседі; сілтемелер дереккөздерге жүгінуге мүмкіндік береді.

    SSE · дереккөз маркерлері

Backend-тің жеңілдетілген сызбасы. LanGPT интерфейсінің скриншоты емес.

міндет
Академиялық міндеттерге арналған ассистент: рефераттау, дәйексөз келтірілген бөлімдер, контентті сыртқы интернетке жүгінбей ЭКЖ-ның тексерілген дереккөздері бойынша тексеру.
менің рөлім
Backend және пайдалану: JWT, rate limiting және SSE бар жария API, Elasticsearch негізіндегі RAG-сервис, fallback бар LLM-бэкендтер теңгергіші, сұрауларды модерациялау, мониторинг, Kubernetes-те өрістету.
нәтиже және мәртебе
«Лань» 2026 жылғы 17 сәуірде жариялаған пилот қорытындысы бойынша: 20 ЖОО, 6,5 мың пайдаланушы, 37 мыңнан астам сұрау. Жария дереккөз.

Негізін қалаушының жалданып жұмыс істеу тәжірибесі, 2024 — қазіргі уақыт. Сандар жеке үлесті емес, өнімнің ауқымын растайды; рөлді сұрау бойынша жұмыс беруші растай алады.

Жүйе туралы толығырақ
AI-Snippets«Лань» ЭКЖ / search
каталог бойынша іздеу: «кеуекті ортадағы жылу тасымалы теңдеулері»
сниппет-жауап · дереккөздер [1][2]Кеуекті ортадағы жылу тасымалы тиімді жылу өткізгіштігі бар энергия теңдеуімен сипатталады; есептеу үшін жергілікті жылулық тепе-теңдік модельдері және екі температуралы модельдер қолданылады [1][2].
Кеуекті орталардағы жылу-масса алмасуоқу құралы · 2021
Тасымал теориясының негіздерімонография · 2019
Жылу физикасындағы сандық әдістероқулық · 2020
Принцип демонстрациясы: мәтіндер мен дереккөздер шартты. Бұл ЭКЖ интерфейсі емес.
міндет
Іздеу нәтижелерінің үстінде дереккөз маркерлері бар қысқа сниппет-жауап. AI-қабаттың салдарынан іздеу баяуламауы немесе істен шықпауы тиіс.
менің рөлім
Pipeline толығымен: кэш → сұрауды жіктеу және кеңейту → multi-source іздеу → BM25 + RRF → vLLM-де генерациялау → quality gate; circuit breaker және graceful degradation; жүктемелік тест және vLLM тюнингі.
нәтиже және мәртебе
Мақсатты GPU-серверде жүктемелік тест: 13,2 сағат, 55 200 сұрау, инфрақұрылымдық қателер нөл; 87,3 % жауап quality gate-тен өтті; латенттілік медианасы 4,6 с, мақсатты мән 5 с.

Бір сервер конфигурациясындағы тест туралы ішкі есеп бойынша. Сенімділік пен сапа бөлек өлшенді; медиана мақсатты латенттіліктің барлық сұрауларда сақталатынын білдірмейді. Интерактивті мысал генерация өшірілгендегі мінез-құлықты көрсетеді.

Жүйе туралы толығырақ
Protocoreменшікті әзірлеме
frontendsprotocore-chat · protocore-dashboard — чат және әкімшілік панелі
supportingқұралдарға арналған sandbox · embeddings · autonomous worker
enterpriseFastAPI · control plane · LLM routing · RBAC · қолжетімділік жоспарлары
core runtimeprotocore — контрактілер, orchestration loop, hooks, safety, observability · ашық ядро, MPL-2.0
deployHelm-чарттар · орта профильдері · CI/CD — release-шекара
тәуелділіктер: frontends және supporting → enterprise → core
міндет
Деректерді сыртқы SaaS-қа бере алмайтын ұйымдарға арналған AI-агенттердің self-hosted платформасы.
менің рөлім
Founder / solo developer: core runtime, enterprise backend, sandbox, chat және admin UI, Helm арқылы өрістету. Жұмыс уақытынан тыс anchor-inference ұйымы атынан жүргізіледі.
нәтиже және мәртебе
MPL-2.0 бойынша ашық ядро (код және орнату); платформа бета сатысында; енгізу құрамы мен лицензиялау шарттары жеке талқыланады.

Ядроның тесттері мен тексерулері репозиторийде көрінеді; платформалық қабат жабық және тапсырыс берушіде өрістетіледі.

Жүйе туралы толығырақ

Тағы: Поиск 2.0, Books Keywords Generator, Daedalus, swiftclf-tuna — барлық жүйелер мен тәжірибе.

AI-инженерді қашан тарту керек

AI-ды бар өнімге енгізуге немесе прототипті пайдалануға дейін жеткізуге көмектесемін. Мына міндеттерден бастауға болады.

міндетинженерлік жұмыстәжірибеден
Модель жауаптары сенімсіз, оларды тексеру мүмкін емесТапсырыс беруші деректеріндегі регрессиялық жинақ, адамдар таңдамалы тексеретін LLM-төреші, шығыстағы quality gate; модель, промпт немесе индекс әр өзгерген сайын іске қосу.AI-Snippets: жүктеме кезінде 87,3 % жауап quality gate-тен өттіішкі есеп, бір сервер конфигурациясы
Білім шашыраңқы, іздеу керегін таппайдыКорпусты дайындау, RRF бар BM25 + kNN гибридті іздеу, реранкинг; индекс контур ішінде; retrieval сапасы келісілген жинақта өлшенеді.LanGPT: сыртқы интернетсіз тексерілген дереккөздер бойынша RAGнегізін қалаушының тәжірибесі, «Лань» ЭКЖ
Прототип бар, бірақ процестерге енгізілмегенҚұрал контрактілері, қадамдар арасындағы күйі, тәуекелді әрекеттерді растауы және журналы бар runtime-дағы агент; тапсырыс беруші жүйелерімен интеграция.Protocore: агенттер runtime-ының ашық ядросы, MPL-2.0меншікті әзірлеме, бета
Деректерді сыртқы сервистерге беруге болмайдыТапсырыс берушінің Kubernetes-індегі vLLM-де self-hosted inference, индекс пен журналдар оның инфрақұрылымында; сыртқы интеграциялар мен телеметрия — тек келісілген тізім бойынша.Protocore: тапсырыс берушінің инфрақұрылымында өрістетуменшікті әзірлеме · beta
Жүктеме кезінде тым қымбат немесе баяуМіндет пен жабдыққа сай модель таңдау, батчинг, кванттау, контекст өлшемі; шығарар алдында шарттары тіркелген жүктемелік тест.AI-Snippets: 13,2 сағ, 55 200 сұрау, медиана 4,6 с, мақсатты мән 5 ссенімділік пен сапа бөлек өлшенді

Жұмыстың төрт бағыты

Міндетке қажетті компоненттерді қосамын. Жұмыс құрамын, инфрақұрылымды және қабылдау критерийлерін әзірлеуге дейін бекітеміз.

01

Агенттік жүйелер

Тапсырыс беруші жүйелерінде жұмыс істеуге арналған, құралдары мен құқықтары шектелген және растау нүктелері бар агент.

02

RAG және семантикалық іздеу

Тапсырыс беруші құжаттары бойынша сапасы өлшенген іздеу: гибридті іздеу мен реранкинг сұраққа жауап беретін фрагменттерді іріктейді.

03

Self-hosted inference

Тапсырыс беруші жабдығындағы ашық модельдер vLLM және Kubernetes арқылы; қажет болса — келісілген ережелер бойынша сыртқы API-мен гибрид.

04

Evals және бақыланымдылық

Модель, промпт немесе индекс ауысқаннан кейін жағдай жақсарғанын көрсететін өлшем.

Сіз нақты не сатып аласыз

Енгізуге тапсырыс беруге, мені бар жүйені дамытуға тартуға немесе өз командаңыз үшін Protocore-ды талқылауға болады.

01 / енгізу

Міндетке арналған жүйе

Міндетті талдаудан пайдалануға тапсыруға дейін: архитектура, іске асыру, сіздің контурыңызда өрістету, келісілген жинақ бойынша қабылдау.

  • не шешемінбілім бойынша іздеу, агент арқылы әрекеттерді автоматтандыру, модельдерді орналастыру
  • не аласызсапа критерийлері, мониторингі және құжаттамасы бар интеграцияланған сервис
  • қалай жұмыс істеймізжазбаша нәтижелері бар кезеңдер; негізін қалаушының өзі
02 / сүйемелдеу

Дамыту және қолдау

Жұмыс істеп тұрған жүйе үшін: аудит, өзгерістер жоспары, регрессиялық іске қосулар, модельдер мен индекстерді жаңарту, инциденттерді талдау.

  • не шешемінсапаның нашарлауы, жүктеменің өсуі, модельдерді ауыстыру
  • не аласызсапа бойынша есептер және жақсарту жоспары
  • қалай жұмыс істеймізжұмыс күндері, SLA — шартта
03 / платформа · beta

Сіздің командаңызға арналған Protocore

Меншікті инженерлік негіз: MPL-2.0 бойынша агенттер runtime-ының ашық ядросы және сізде лицензия бойынша өрістетілетін жабық платформалық қабат.

  • не шешемінагенттерді командаңыздың өз бетінше әзірлеуі
  • не аласызruntime, қолжетімділікті басқару, sandbox және бақыланымдылық бар платформа
  • қалай жұмыс істеймізплатформа лицензиясы; ядро — тегін
Protocore архитектурасы туралы

Жүйе модель жауабымен аяқталмайды

Төрт кезең. Әрқайсысының жазбаша нәтижесі мен қабылдау критерийі бар; жұмыс модельдің алғашқы жауабынан кейін де жалғасады.

Міндетті талдау1-апта

Нені және немен өлшейтінімізді бекітеміз

Деректер, контур шектеулері, қолжетімділік талаптары және сапа критерийлері. Бұларсыз жағдай жақсарғанын өлшеу мүмкін емес.

нәтижесінде: міндет сипаттамасы, архитектура, бағалау; қабылдау жазбаша
Метрикалары бар прототипөлшенетін

Сіздің деректеріңіздегі алғашқы нұсқа

Retrieval пен промпт нұсқалары сезім бойынша емес, регрессиялық жинақта салыстырылады.

нәтижесінде: прототип және келісілген жинақтағы метрикалар кестесі
Контурда өрістетуon-prem немесе бұлт

Сіздің инфрақұрылымыңыздағы vLLM және Kubernetes

Интеграциялар мен телеметрия — келісілген тізім бойынша; мониторинг және пайдалану жөніндегі құжат.

нәтижесінде: сіздің кластеріңіздегі жүйе; сценарийлер бойынша қабылдау
Пайдалану және evalsтұрақты

Продтағы сапа бақылауда

Модель немесе индекс ауысқандағы регрессиялар, қателер мен латенттілікті бақылау, сапа бойынша есептер. Тапсырыс беруші командасы жұмысты өз бетінше жалғастырады.

нәтижесінде: есептер және жақсарту жоспары; қолдау көлемі — шарт бойынша

Жүйемен кім жұмыс істейді

Жобалау, іске асыру және пайдалануға тапсыру — негізін қалаушының өзі. Міндет қою мен код арасында делдалдар жоқ.

Александр Тихонов

AI Systems Engineer · негізін қалаушы

2024 жылдан бастап «Лань» ЭКЖ-ның AI-сервистерінің — LanGPT, AI-Snippets, Поиск 2.0, Books Keywords Generator — backend және инфрақұрылымдық іске асырылуына жауап беремін: архитектура, әзірлеу, интеграция, Kubernetes-те өрістету, мониторинг және production support. Қатар ашық ядролы AI-агенттердің self-hosted платформасы — Protocore-ды жүргіземін.

Бейінім — модельдерді оқыту емес, LLM төңірегіндегі production-жүйелер инженериясы: сервистер, RAG және backend-архитектура, интеграциялар, тұрақтылық, бақыланымдылық және латенттілік пен құн шектеулері жағдайында пайдалану.

Жеке сайтТүйіндемеGitHubTelegram
Бөлек жобаміндетті талдаудан құжаттама мен қабылдау арқылы тапсыруға дейін
Жүйені дамытуаудит, өзгерістер жоспары, іске асыру, әсерді өлшеу
Сүйемелдеужұмыс күндеріндегі инциденттер, жаңартулар, есептер; SLA — шарт бойынша

МЕНШІКТІ ӘЗІРЛЕМЕЛЕР / ANCHOR INFERENCE

Команда үшін.
Өзіңіз үшін.

Екі әзірлеме, әртүрлі міндеттер. Компания жұмысына арналған платформа және командамен жұмыс істейтін жеке агент.

01 / КОМАНДАЛАРҒА АРНАЛҒАН ПЛАТФОРМА · BETA

protocore+

Жұмыс — агенттерге.
Басқару — сізге.

Ашық ядро төңірегіндегі интерфейстер, құралдар және тапсырмаларды орындау. AI-агенттерді команда процестеріне интеграциялауға арналған.

Ашық ядро MPL-2.0
Платформа — проприетарлық қабат, beta.

Платформаны ашу
02 / ЖЕКЕ АГЕНТ · АШЫҚ КОД

daedalus.

Командамен жұмыс істейді.
Бәрін бірден сұрайды.

macOS, Windows және Linux жүйелерінде өз терезесі бар жеке ЖИ-агент. Жұмысты агенттер командасына бөліп береді, әр команданы саясатпен тексереді және сізге тек адам шешуге тиіс мәселелермен ғана келеді.

ФИЛЬМ · CORRIDOR H8▶ «Доска задач» фильмі 2:57

macOS · Windows · Linux
Ашық жоба MIT · модель мен кілт — сіздікі

Daedalus-ты ашу
ЗЕРТХАНА / PROTOCORE ЗЕРТТЕУЛЕРІ

Агент нені есте сақтайды.
Шын мәнінде не істеді.

Контекст, тапсырмаларды аяқтау және нәтижені тексеру. Әдістемесі, артефактілері және тұжырым шекаралары көрсетілген мақалалар.

Зерттеулермен танысу

Жаңа тапсырыстарды қабылдау тоқтатылды

Қазір барлық күш ағымдағы жобаға жұмсалып жатыр, сондықтан жаңа тапсырыстарды уақытша қабылдамаймыз. Қабылдау қайта ашылғанда, бұл осында көрсетіледі.

уақытша · жаңа тапсырыстар қабылданбайды

Байланыс

Тікелей: hello@anchorinference.com немесе Telegram @notsoulmate

Байланыс және тапсырыс қабылдау мәртебесі

Орындаушы — «Anchor Inference» ЖШС, БСН 261040019769, Астана қ.

Тапсырыс қабылдау тоқтатылды

Жаңа тапсырыстар уақытша қабылданбайды: қазір барлық күш ағымдағы жобаға жұмсалып жатыр. Өтінім формасы қабылдау қайта ашылғанша өшірілген.

Қолданыстағы келісімдер, шарттар және деректемелер: hello@anchorinference.com · Telegram @notsoulmate