Розробка чат-бота з використанням Generative AI Service на платформі Oracle Cloud Infrastructure.

Abstract

Розглянуто процес створення чат-бота з використанням технологій генеративного штучного інтелекту на базі платформи Oracle Cloud Infrastructure. Основну увагу приділено архітектурі Retrieval- Augmented Generation, яка поєднує базу знань, векторний пошук і генерацію відповідей. В якості генерації та векторизації виступають моделі компанії Cohere. Особливу увагу приділено зберіганню векторів у Oracle Database 23c та AI services, побудові інтерфейсу через Streamlit та аналізу ефективності роботи системи в умовах безкоштовного середовища OCI. Також надано оцінку економічного ефекту та перспективи розвитку розробленої системи у майбутньому

The process of creating a chatbot using generative artificial intelligence technologies based on the Oracle Cloud Infrastructure platform is examined. The primary focus is on the Retrieval-Augmented Generation architecture, which integrates a knowledge base, vector search, and response generation. Cohere models are used for both generation and vectorization. Particular attention is given to vector storage in Oracle Database 23c and AI services, the development of the user interface via Streamlit, and the evaluation of system performance within the Always free OCI environment. Additionally, the economic benefits and future development prospects of the implemented system are assessed