🤖 Talk to bee colony with AI

С использованием RAG.

Идея

Это продолжение работы над функцией советов по пчеловодству с LLM.

Следующий шаг этой функции - аудиоинтерфейс для общения с пчёлами.

Здесь мы хотим не только давать советы на основе состояния улья, но и позволить пользователю задавать вопросы и получать ответы. Для таких запросов нужно сделать LLM умнее, построив собственную базу знаний.

На начальном этапе база знаний может быть просто:

• набором книг по пчеловодству, доступные книги ещё нужно собрать.

Со временем базу знаний можно расширять за счёт внутренних обнаруженных данных или закономерностей, например движений пчёл, звуков и т.д.

Это значит, что нам нужно:

• взять базу знаний;
• закодировать её по предложениям и страницам в embeddings;
• сохранить embeddings в векторной базе данных;
• при запросе выполнить поиск похожих embeddings и получить ближайшие темы;
• обогатить контекст, передать его в LLM и сгенерировать ответ.

С точки зрения UX можно сделать так, чтобы LLM действовала как пчелиная семья.