Как подключить ChatGPT от OpenAI к чат-боту

В SendPulse вы можете подключить модель GPT от OpenAI к вашему чат-боту, чтобы давать пользователям еще более продвинутые, автоматизированные ответы и помогать им решать различные дополнительные задачи.

Рассмотрим, как создать аккаунт в OpenAI, подключить его к вашему чат-боту, какие бывают модели и как можно натренировать ответы бота под ваши задачи.

Знакомство с OpenAI

GPT (Generative Pre-trained Transformer) — это крупномасштабная нейронная сеть от компании OpenAI, которую можно использовать для генерации текста и кода.

Основные модели могут реализовывать различные задачи: анализировать тексты разной сложности и выдавать ответы, оптимизировать текст под SEO или SMM задачи, категоризировать текст в таблицы, помогать с мозговым штурмом, редактировать и переводить тексты, работать с кодом и математическими задачами, поддерживать диалог на любые или заданные темы.

Больше о задачах и возможностях использования GPT моделей читайте в нашем блоге: GPT в чат-ботах: возможности для бизнеса и экспертов в 2023 году.

Для настройки GPT под ваши задачи через бот, нужно выбрать модель и добавить указания — к примеру, вы можете добавить тон ответов, ограничить список вопросов или тем, дать дополнительную информацию или пример, в каком виде желаете получать ответ.

Создайте аккаунт

Перейдите на страницу OpenAI > Products > Documentation и создайте аккаунт. Для этого нажмите Sign-up в правом верхнем углу страницы, введите email адрес и нажмите Continue или продолжите с аккаунтом в Google или Microsoft.

Если вводили адрес, в следующем окне введите пароль. Вам на почту придет подтверждающее письмо. Нажмите в письме на кнопку Verify и после перехода на страницу, введите данные о себе: имя и название организации.

Введите номер, на который придет подтверждающее SMS. Введите код и войдите в аккаунт.

При вводе номера обратите внимание, что OpenAI доступен не во всех странах. Вы можете ознакомиться со списком поддерживаемых стран по ссылке Supported countries and territories.

Скопируйте API ключ

После авторизации в аккаунте, в правом верхнем углу нажмите значок настроек (Settings).

В левой панели перейдите в раздел Your profile, а затем во вкладку User API keys.

Вы можете создавать различные API key для проектов в аккаунте OpenAI. Это сделано для удобного управления командой и сохранности данных, а владелец аккаунта может генерировать ключи во всех проектах. Вам не обязательно создавать отдельные проекты – все данные будут сохранены в автоматически созданном Default project. Больше о возможностях создания проектов читайте в документации OpenAI.

Нажмите View project secret Key.

Нажмите Create new secret key.

В модальном окне выберите владельца и настройте параметры ключа.

Нажмите Create secret key и скопируйте его в следующем окне.

Вы должны сохранить ключ на своем устройстве, поскольку во время повторного входа вы не сможете скопировать ключ. Если вы потеряете его, вам нужно будет создать новый ключ.

Подключение интеграции

Вставьте API ключ

Выберите бота и перейдите в Настройки бота во вкладку Интеграции. Напротив OpenAI нажмите Подключить.

Выберите способ подключения:

Выберите модель

Выберите, какую модель AI использовать для генерации ответов.

Вы можете посмотреть примеры использования модели в разделе Examples и OpenAI Cookbook, а также поэкспериментировать в Playground.

Добавьте инструкцию для бота

Модели GPT могут выполнять различные задачи — от сложного анализа текста до генерации ответа на неограниченный список тем. Чтобы ограничить область ответов бота, придать тональность разговора, персонифицировать вашего бота под определенного персонажа или человека, а также добавить информацию о своей компании, вам нужно добавить указания для бота.

При создании подсказки учитывайте следующие рекомендации:

1. Добавьте максимальное количество контекста и условий для ответа в каждом сценарии. Перечислите все предварительные условия взаимодействия с ботом: укажите, какие пользователи и на каком этапе решения своих задач будут обращаться, какие подробности необходимо учесть в ответах, а какие темы избегать.
   Давайте модели задание сгенерировать несколько результатов, чтобы иметь возможность сравнить и указать ей наиболее подходящий.
2. Дайте понять, чего вы хотите, с помощью примеров. К примеру, если вам нужно, чтобы модель ранжировала список элементов в алфавитном порядке или классифицировала абзац по настроению, перечислите примеры запросов и ожидаемый формат результата или какого эффекта хотите добиться. Если вам нужно, чтобы бот на вопросы отвечал определенным образом — приведите пример вопроса и ответа.
3. Предоставляйте качественные и максимально точные данные. Проверьте свои примеры — модель обычно достаточно умна, чтобы опознать основные орфографические ошибки, но она также может предположить, что это сделано намеренно, и это может повлиять на ответ. Если вам нужно, чтобы модель отвечала на определенном языке — укажите этот язык прямо. Так же рекомендуется использовать слова вместо цифр. Помните, что AI понимает все указания буквально.
4. Персонифицируйте модель. Чтобы модель могла войти в образ определенного человека или персонажа, опишите, чем он занимается, какими качествами обладает, в каком тоне или с каким лексиконом будет общаться, а также другие аспекты жизни виртуального помощника.
5. Тестируйте полученный результат и обновляйте инструкцию. После настройки подсказок обязательно протестируйте полученный результат, просматривайте диалоги с пользователями и при необходимости корректируйте указания бота, добавляя или убирая детали. Тренируйте модель, пока не добьетесь желаемых результатов.

В поле Инструкция для бота добавьте указания в свободной форме следуя рекомендациям.

Обратите внимание, что у моделей есть разные лимиты по количеству символов, которые можно ввести. Читайте подробнее в таблице о лимитах.

AI анализирует текст на всех языках и может отвечать на языке, который вы указали, но лучше всего он взаимодействует с английским. Если вы не указываете язык, по умолчанию будет отвечать на английском.

Если возникнут вопросы по нахождению лучшего описания для инструкции бота или по возможным сценариям реализации, вы можете обратиться в открытое сообщество OpenAI.

Добавьте количество токенов 

Токен – часть слова, используемая для обработки природного языка. Для английского текста 1 токен это примерно 4 символа или 0,75 слова. Для других языков и более точного расчета вы можете воспользоваться калькулятором от OpenAI.

В поле Максимальное количество соответствующих токенов (Maximum number of tokens in response) укажите число:

При первой регистрации, OpenAI дает $18 долларов на 3 месяца. Из этой суммы будет сниматься плата за использование токенов.

Тарифы за токены различаются, зависимо от используемой модели. К примеру, модель gpt-3.5-turbo-16k стоит в два раза дороже модели gpt-3.5-turbo, поскольку она использует больше контекста. Читайте подробнее про токены в статье What are tokens and how to count them и про тарифы в разделе Pricing.

Чтобы посмотреть, сколько токенов у вас осталось, перейдите в ваш аккаунт в OpenAI во вкладку Usage.

Чтобы просмотреть историю использования токенов, прокрутите страницу ниже до секции Daily usage breakdown (UTC). Вы можете посмотреть всю историю или отобразить результаты за определенную дату или сотрудника.

Установите температуру

Укажите показатель температуры от 0 до 2.

Температура – ​​это параметр, влияющий на абстрактность ответов. Например, если задавать один и тот же вопрос, то исходные данные будут разные в соответствии с выбранной температурой — абстрактные или более точные. Более высокие значения ближе к 2, например,1,3, сделают ответы более случайными. Низшие значения ближе к 0, например, 0.2, сделают их более исчерпывающими, но одинаковыми по смыслу.

Нажмите Сохранить и можете переходить к тестированию бота.

Объем контекста переписки

В поле Объем контекста переписки укажите, сколько последних сообщений подписчика и бота добавить в запрос ИИ как контекст переписки.

Установите ограничение срабатываний бота для подписчика

Вы можете ограничить избыточные запросы к боту ChatGPT. Это полезно в случаях, когда отдельные подписчики используют большое количество платных запросов.

Для этого в поле Ограничение срабатывания бота AI на один контакт (Limiting AI bot triggering to one contact) установите количество запросов в течение интервала в днях, часах или минутах.

По умолчанию установлено на 100 запросов на одного подписчика ежедневно.

После заполнения поля нажмите Сохранить (Save).

Читайте также: Как настроить голосовое распознавание сообщений в чат-ботах и Как добавить генерацию изображений в чат-боте с помощью инструментов OpenAI.

Особенности использования

При подключении интеграции с OpenAI в чат-боте отключается цепочка Стандартный ответ. Поэтому вам нужно дополнительно позаботиться о том, чтобы пользователь знал, что бот может ему ответить. К примеру, добавьте информацию о правилах общения с ботом в приветственной или триггерной цепочке, которую добавите в меню.

При использовании OpenAI в чат-ботах обратите внимание, что AI использует внутреннюю библиотеку информации — он обрабатывает запрос клиента и выдает результат прямо в диалоге с клиентом.

У AI нет долгой памяти: при обработке запроса учитываются только три последние сообщения от пользователя. Рекомендуем просматривать диалоги с клиентами в чатах, чтобы корректировать указания для бота.

AI не интегрируется с дополнительными приложениями и не обрабатывает данные клиента в аудитории бота. Для этих функций добавьте меню или создайте команды для запуска цепочек, где добавите блоки Запрос API, User input и Действие.

Также вы можете подключить бот к группе в Telegram, тогда вам будут доступны следующие возможности: бот будет отвечать в случае упоминаний (через @) или запуска команд (/command), для ключевых слов, а также запросов к OpenAI, если включена такая интеграция.

Примеры использования

Рассмотрим различные примеры, которые могут быть применимы к боту. Вы можете посмотреть больше примеров на странице Examples.

К примеру, у вас бот для компании и вы хотите обучить бота самостоятельно развивать диалог и генерировать ответы на вопросы по вашим товарам и работе магазина.

Для второго примера собрали базу часто задаваемых вопросов и ответов, чтобы сделать ответы более точечными и рассказать больше детальной информации об услугах.

Обновлено: 17.07.2024