Создание диалоговых моделей искусственного интеллекта с помощью LLM

В этом руководстве мы создадим диалогового агента службы поддержки клиентов, который будет проверять статус заказа и отвечать на вопросы политики. Я выбрал Oxlo.ai, потому что фиксированная цена за каждый запрос позволяет прогнозировать затраты даже при увеличении истории разговоров. Если вы используете поддержку уровня 1 или внутреннюю службу поддержки, это дает вам рабочую основу, которую вы можете отправить сегодня. Что вам понадобится Я предполагаю, что у вас установлен Python 3.10 или новее. Вам также понадобится OpenAI SDK и ключ API Oxlo.ai. Питон 3.10+ pip установить openai Ключ API Oxlo.ai с https://portal.oxlo.ai. Шаг 1. Настройте клиент Oxlo.ai Сначала я инициализирую клиент, совместимый с OpenAI, указывая на Oxlo.ai. Единственное отличие от стандартной настройки OpenAI — это базовый URL-адрес. из openai импорт OpenAI клиент = OpenAI(base_url="https://api.oxlo.ai/v1", api_key="YOUR_OXLO_API_KEY") ответ = client.chat.completions.create( модель="лама-3.3-70б", сообщения=[ {"role": "user", "content": "Поздоровайтесь и подтвердите, что вы в сети."}, ], ) print(response.choices[0].message.content) Шаг 2. Определите системную подсказку агента. Далее я определяю системное приглашение. Это должностная инструкция агента: тон, границы и инструкции по инструментам — все живет ею.