Архитектура: LLM Wiki + RAG
Архитектура: LLM Wiki + RAG
LLM Wiki (текущее решение)
База знаний на основе Obsidian vault. Подход Karpathy-style: плоские Markdown-файлы, связанные через wiki-links.
- Движок: Obsidian vault + Ollama для локального вывода
- Наполнение: стенограммы, регламенты, поручения, оргструктура
- Интерфейс: Telegram-бот (естественный язык) / прямой доступ к vault
- Модель: Ollama 3.2 (8B) — локально, медленно, ограничен контекстом
Ограничения
- Ollama 3.2 упирается в контекст на больших документах
- Локально медленно — ~10-30 сек на ответ
- Security concerns при подключении внешних LLM API
GraphRAG (перспектива)
Поиск релевантных сегментов в стенограммах.
- Глубокие ответы с поиском по графу
- Дополнение к LLM Wiki, не замена
Предложение по архитектуре
1. LLM Wiki — человекочитаемое общение, ответы на вопросы по базе знаний 2. GraphRAG — для глубинного поиска в стенограммах (когда нужно найти конкретный фрагмент) 3. Claude — рассмотреть как замену Ollama для скорости 4. Свой LLM Hub — долгосрочная перспектива
Интеграции
- Telegram: основной канал коммуникации
- YouGile: задача-трекер (перспектива)
- Почта: коннектор email как источник данных
- PostgreSQL: дедупликация, реестр