Диджитал Гуру

В IT-отрасли регулярно проходят конференции, митапы, онлайн-мероприятия, на которых специалисты обмениваются опытом и делятся полезными наработками. К сожалению, не все доклады становятся статьями на vc или Хабре, и ценные знания не доходят до тех, кто в них нуждается.

Специалисты Doubletapp задумались над тем, как создать полезный продукт для индустрии: аккумулировать контент с агентских конференций, сделать его доступным для всех специалистов, а также запустить умный «поисковик» по видеозаписям докладов. Для этого мы создали диалоговый ассистент Диджитал Гуру, обучили его на нескольких сотнях докладов и упаковали в сервис для диалогового общения.

Мы презентовали бот на крупном отраслевом ивенте Agency Growth Days в Екатеринбурге, где традиционно выступаем партнерами — отвечаем за дизайн-составляющую, а также помогаем гостям конференции с помощью ML-технологий — готовим в реальном времени краткие сводки только что прочитанных докладов с помощью Doubletapp Meeting Notes: https://t.me/doubletapp_meeting_notes_bot и тут же публикуем их в соцсетях мероприятия. Так мы помогаем участникам быстро сориентироваться в темах и основных тезисах докладов и обеспечиваем более глубокий нетворкинг.

Диджитал Гуру стал логичным продолжением этого направления: мы помогли пользователям быстро находить информацию с предыдущих конференций, а также узнавать, как спикеры решали интересующие их проблемы и на каких конференциях обсуждались эти темы.

В итоге в Диджитал Гуру зарегистрировались 17,6% участников и они задали 121 вопрос.

Продвигая на конференции свои ML-сервисы, мы стремимся повысить в отрасли интерес и осведомленность в сфере больших языковых моделей, а также продемонстрировать свою экспертность в этом направлении и ассоциироваться в индустрии с этим комплексом работ.

Решение представляет собой RAG-систему.

Используемые технологии: Python, LangChain, Chroma DB, ChatGPT LLM.

Как Диджитал Гуру быстро находит ответы в своей базе знаний?

1. Мы собрали несколько сотен видеозаписей докладов за последние 2 года.

2. Доклады транскрибировали и нарезали на небольшие куски (чанки)

3. Чанки прогнали через модель, которая выделяет из них смысловые признаки и кладет в вектор. Такая модель называется эмбеддер, а вектор признаков — эмбеддинг.

4. Упаковали сервис в web-интерфейс и телеграм-бот.

5. Теперь пользователь может написать боту в чате свой вопрос.

6. Вопрос превращается в смысловой вектор (эмбеддинг).

7. Находятся куски информации, которые близки к вектору вопроса.

8. Подбираются целиком те доклады, в которых больше всего близких кусков (до 5 докладов).

9. Отправляем в LLM промпт, который в сильно упрощенном виде выглядит так: «Вот вопрос, вот контекст, где нужно найти ответ. Найди и напиши ответ».

10. Получаем ответ и отправляем его пользователю.