Поиск по заметкам и документам без видеокарты

Собственный проект.

Заметок и журналов работ накопилось много, поиск по точным словам не находил заметку, если в ней написано другими словами. Нужен был поиск по смыслу, который работает на обычном сервере без видеокарты.

Сделал поиск из двух частей: полнотекстовый индекс SQLite FTS5 и векторы модели e5-small, результаты объединяются. Служба работает в фоне и отвечает через unix-сокет, поэтому модель не загружается заново на каждый запрос.

Хватает обычного процессора. Мои рабочие скрипты обращаются к нему сами и подставляют найденные заметки в задачи.