Диджитал Гуру — бот-помощник для бизнеса, обученный на материалах агентских конференций

Опыт и знания, которыми топовые специалисты делятся на IT-мероприятиях, часто остаются только в памяти слушателей или в виде многочасовых записей трансляций на YouTube. Если доклад не становится статьей, информация теряется, и найти её позже практически невозможно.

Чтобы бережно сохранять, популяризировать и делать доступным лучший контент в индустрии, ML-инженеры Doubletapp создали сервис, обученный на материалах агентских конференций. Он может ответить практически на любой вопрос из сферы управления, финансов, организации бизнес-процессов, маркетинга, продаж, основанный на мнениях признанных специалистов.

Как выстроить отдел маркетинга в IT-компании? Из каких специалистов состоит идеальный отдел продаж? Как CEO научиться делегировать задачи? Обо всем этом расскажет Диджитал Гуру.

Зарегистрируйтесь в боте: https://t.me/dt_digital_guru_bot

Задайте вопрос и подождите несколько секунд.

На экране вы увидите текст ответа и ссылку на видео доклада, из которого извлечена информация.

Переходите по ссылке и смотрите доклад целиком.

Решение представляет собой RAG-систему.

RAG – Retrieval augmented generation — технология, которая позволяет находить релевантную информацию в хранилище данных и генерировать текст с помощью языковой модели. Подробнее о RAG читайте здесь: https://habr.com/ru/companies/doubletapp/articles/808153/

Как Диджитал Гуру находит ответы в своей базе знаний?

1. Мы собрали несколько сотен видеозаписей докладов за последние 2 года.

2. Доклады транскрибировали и нарезали на небольшие куски (чанки)

3. Чанки прогнали через модель, которая выделяет из них смысловые признаки и кладет в векторную базу данных. Такая модель называется эмбеддер, а вектор признаков — эмбеддинг.

4. Упаковали сервис в web-интерфейс и телеграм-бот.

5. Теперь пользователь может написать боту в чате свой вопрос.

6. Вопрос превращается в смысловой вектор (эмбеддинг).

7. Находим куски информации, которые близки к вектору вопроса.

8. Подбираем 5 докладов, в которых больше всего близких кусков.

9. Отправляем в LLM промпт, который в сильно упрощенном виде выглядит так: «Вот вопрос, вот контекст, где нужно найти ответ. Найди и напиши ответ».

10. Получаем ответ и отправляем его пользователю.

Используемые технологии: Python, LangChain, Chroma DB, ChatGPT

Презентация проекта с успехом прошла на отраслевом IT-ивенте AGD в Екатеринбурге. Диджитал Гуру помогал участникам быстро находить информацию по темам текущих докладов с предыдущих конференций, знакомиться с более ранними докладами спикеров и повышать эффективность нетворкинга. Сервисом воспользовались 17,6% участников конференции, задали 121 вопрос. 

Предлагая на конференциях свои ML-сервисы, мы стремимся повысить в отрасли интерес и осведомленность в сфере больших языковых моделей, а также продемонстрировать свою экспертность в этом направлении и ассоциироваться в индустрии с этим комплексом работ.

Награды кейса:

- бронза — «Лучший продукт года среди агентств»

- шорт-лист — «Лучшая AI-технология: мессенджер-маркетинг»