Об одном подходе к разработке информационно-справочных систем на основе больших языковых моделей

В статье рассматривается современный подход к разработке контекстно-вопросно-ответной системы, направленной на обеспечение информационной поддержки процессов территориального управления. Основой системы являются большие языковые модели, использующие подход Retrieval-Augmented Generation (RAG). Источником данных для базы знаний послужили официальные доклады «О состоянии окружающей среды», включающие текстовую и табличную информацию. Для эффективного хранения и быстрого доступа к данным использовалась векторная база данных PostgreSQL с расширением pgvector. Основной компонент системы – RAG-модель, включающая Bi- и Cross-энкодеры, которые обеспечивают качественную обработку контекста и точный подбор релевантных ответов. Серверная часть системы разработана с использованием платформы Text Generation Interface, а клиентская часть реализована на базе ReactJS и Telegram-бота, что обеспечило удобство взаимодействия с пользователями. Результаты работы демонстрируют, что предложенный подход позволяет повысить точность и эффективность ответов за счет использования фильтров классификации запросов, адаптации временных интервалов и быстрого поиска релевантной информации. Разработанный графический интерфейс делает систему доступной для широкого круга пользователей. Полученные результаты подтверждают эффективность внедрения современных технологий искусственного интеллекта в задачи территориального управления. В перспективе предложенная система может быть адаптирована для других прикладных областей.

1. Jansen B. J., Rieh S. The Seventeen Theoretical Constructs of Information Searching and Information Retrieval. Journal of the American Society for Information Sciences and Technology, 2010, vol. 61(8), pp. 1517–1534. DOI: 10.1002/asi

2. Wang H., Qin Z., Wan T. Text generation based on generative adversarial nets with latent variables. Advances in Knowledge Discovery and Data Mining: 22nd Pacific-Asia Conference, PAKDD 2018, Melbourne, VIC, Australia, June 3-6, 2018, Proceedings, Part II 22. – Springer International Publishing, 2018, pp. 92–103. https://doi.org/10.48550/arXiv.1712.00170

3. Roumeliotis K. I., Tselikas N. D. ChatGPT and Open-AI Models: A Preliminary Review. Future Internet, 2023, vol. 15(6), p. 192. https://doi.org/10.3390/fi15060192

4. Vidivelli S., Ramachandran M., Dharunbalaji A. Efficiency-Driven Custom Chatbot Development: Unleashing LangChain, RAG, and Performance-Optimized LLM Fusion. Computers, Materials and Continua, 2024, vol. 80, iss. 2, pp. 2423−2442.