Міндеттері:

vLLM және Triton Inference Server көмегімен LLM-модельдерін орналастыру және қызмет көрсету
GPU-кластерін (NVIDIA H200, L4, L40s) әкімшілендіру: ресурстарды бөлу, VRAM мониторингі, CUDA MPS баптау
GitLab CI негізіндегі AI-қызметтер үшін CI/CD құбырларын (пайплайндарын) құру және қолдау
Модельдерді орналастыруды автоматтандыру: нұсқалау, rollback рәсімдері, A/B тесттерін өткізу
Қызметтерді контейнерлеу (Docker, Kubernetes)
Prometheus және Grafana арқылы GPU-метрикаларды мониторингтеу баптау
AI-агенттердің сапасын мониторингтеу: latency (p50/p95/p99), throughput, метрикалардың деградациясы
Реляциялық және векторлық деректер базаларымен жұмыс істеу
Alembic арқылы БД миграцияларын баптау (қалаулы)
Қызметтер деградациясы кезінде алерттерді баптау (қалаулы).

Талаптар:

ML-инфрақұрылымы бойынша сенімді білім: vLLM, Triton Inference Server.
NVIDIA GPU-кластерлерімен жұмыс тәжірибесі, CUDA, MPS, VRAM-менеджментін түсіну.
Production ортада Docker және Kubernetes-пен практикалық тәжірибе.
CI/CD құбырларын (пайплайндарын) құру тәжірибесі (GitLab CI немесе баламалар).
Мониторинг жүйелерін білу: Prometheus, Grafana.
Реляциялық БД-мен жұмыс тәжірибесі (PostgreSQL және т.б.) және векторлық БД-мен (Qdrant, Weaviate, Pinecone немесе баламалар)
AI-қызметтерінің сапа метрикаларын түсіну (latency, throughput, SLA).
Қалаулы:
БД миграциялары үшін Alembic-пен тәжірибе
Алертингті баптау (PagerDuty, Alertmanager және т.б.)
Модельдерді нұсқалау үшін MLflow, DVC немесе ұқсас құралдармен тәжірибе
Тілдерді білу:
Орыс тілі — міндетті (командасының жұмыс тілі)
Ағылшын тілі — техникалық деңгей (құжаттаманы оқу, хат алмасу) — міндетті
Қазақ тілі — артықшылық.
Жұмыс тәжірибесі кемінде 1-2 жыл.
Production ортада GPU-серверлер және LLM-модельдермен жұмыс тәжірибесі — міндетті.
ML-модельдерді толық циклде орналастыруға қатысу тәжірибесі (әзірлеуден бастап мониторингке дейін).

Шарттар:

Жұмыс кестесі: 09:00-18:30 сағ.
Медициналық сақтандыру
Жеткізу (тасымал)

Қажетті білім дәрежесі

• Бакалавр