LanGPT
RAG/LLM-ассистент для академических задач в ЭБС «Лань». Публичный API с JWT и SSE, RAG поверх Elasticsearch, балансировщик LLM-бэкендов, модерация.
ИСТОЧНИК: РУЧНОЙ README
LanGPT — AI-ассистент для академических задач, интегрированный в платформу ЭБС «Лань». Помогает студентам, исследователям и преподавателям с задачами научного письма: формулирование гипотез, подбор методологии, реферирование статей, написание разделов с цитированием, проверка требований к академическому контенту.
RAG-архитектура отвечает по проверенным источникам из каталога ЭБС, доступным компании по партнёрским соглашениям с издательствами, — без обращения к внешнему интернету.
Зона ответственности — backend и эксплуатация
Отвечаю за backend и инфраструктурную часть продукта: реализацию сервисов, участие в развёртывании в Kubernetes и эксплуатационное сопровождение.
- Публичный API: JWT-сессии, rate limiting по тарифным планам, SSE-стриминг ответов, постановка задач в очередь через RabbitMQ.
- RAG-сервис поверх Elasticsearch для верифицированного учебного и научного контента.
- Pipeline AI-обработки покрывает более десяти инструментов научного письма, маршрутизацию и подбор промптов под задачу.
- Контентная модерация пользовательских запросов для исключения нежелательного и небезопасного контента в академическом продукте.
- Балансировщик LLM-бэкендов с динамическим реестром серверов, выбором least-loaded / least-connections с приоритетом, fallback'ом и OpenAI-совместимыми адаптерами.
- Production-наблюдаемость: метрики в Prometheus, дашборды в Grafana, структурированные логи и аналитика в Elasticsearch.
Масштаб
Сервис проходит пилотирование в 20 российских вузах; по публичным материалам компании — более 37 000 запросов и 6,5 тыс. активных пользователей за период тестирования; публичный план компании на 2027 год — 100 вузов.
Цифры — из публичных материалов компании о продукте. Роль и зона ответственности могут быть подтверждены работодателем по официальному запросу.
Стек: Python · FastAPI · PostgreSQL · MySQL · RabbitMQ · Redis · Elasticsearch · vLLM · OpenAI-compatible APIs · Prometheus · Grafana · Docker · Kubernetes · Helm · GitLab CI