Чат-бот на основе Azure: помощник студентов и абитуриентов университета в США

Чтобы помочь университету решить все его задачи, мы решили разработать умный чат-бот на основе LLM (большой языковой модели). Университет сотрудничает с корпорацией Microsoft, и поэтому имеет полный доступ к инфраструктуре для создания такого инструмента.

Мы стали партнерами учебного заведения и взяли на себя разработку чат-бота на основе набора продуктов от Microsoft: Azure и базы Dynamics.

С виду это обычный интерактивный чат: пользователь задает вопрос, бот отвечает. Главная проблема, с которой сталкиваются заказчики и разработчики таких инструментов: как сделать так, чтобы бот был полезен пользователю, а не вызывал лишь раздражение и желание написать «Позови оператора»?

Чтобы разработать полезный продукт, мы научили бота понимать множество вопросов и распознавать намерения пользователей. Все это — с помощью сервисов Microsoft Azure.

Мы загрузили в Azure список вопросов и ответы на них, а затем подключили отдельный сервис Microsoft — Question Answering. С этого момента бот был уже способен отвечать, но только если вопрос буква-в-букву совпадает с тем, что указан в Azure. Естественно, нам нужно было создать много вариантов вопросов, чтобы бот мог общаться с живым человеком.

Для достижения этой цели мы сгенерировали огромное количество вопросов через Chat GPT. Загрузили их в Azure, и теперь наш бот получил возможность давать консультации живым людям, которые пользуются естественным человеческим языком. Вы можете задавать вопрос в самых разных формулировках, и бот сможет найти правильный ответ в своей базе.

Хороший чат-бот должен не только отвечать на вопросы, но и помогать пользователю совершить целевое действие. Чтобы распознать намерения пользователей, и какое действие они хотят совершить, мы подключили Microsoft Orchestration Workflow.

Так наш бот научился понимать, чего хочет пользователь — задать вопрос, авторизоваться в системе или, (внимание!), пожаловаться на профессора. Это последнее намерение вызывает форму обратной связи, где студент может указать, кем из преподавателей он недоволен и почему. Сообщение уходит в администрацию университета в виде email.

1. SMS-сообщения. Подключили API сервиса Twilio для рассылок.

2. Веб-виджет на сайте университета.

3. Telegram. Здесь мы тестируем работу помощника.

Данные о студентах и их разговорах с ботом хранятся внутри Microsoft Dynamics. В будущем мы планируем запустить автоматическую сегментацию пользователей по аудиториям и рассылки по этим сегментам.

Например, если пользователь задает вопрос «Какие документы нужны для поступления?» мы сможем занести его в сегмент абитуриентов. Позже такая аудитория будет получать отдельную рассылку от университета, соответствующую ее потребностям и целям вуза.