Техніки
Семантичне розбиття та перекриття (Semantic chunking and overlap)
Вилучення та маршрутизація (Retrieval and routing)
Зсувні вікна та пам’ять (Sliding windows and memory)
Приклад
Приклад: Відповіді на запитання щодо політики, що перевищують 5000 сторінок.
Розбийте та індексуйте документи.
Видобувайте та маршрутизуйте запити.
Перевіряйте за допомогою цитат.
Часті запитання
Розмір блоку (chunk size)?
Залежить від завдання, компроміси.
Повторність (Recall)?
Призначення та тести.
Затримка (Latency)?
Індексація та кешування.
Вартість (Cost)?
Маршрутизація з урахуванням бюджету.
Переповнення (Overflow)?
Узагальнення та обрізка.
Порядок (Ordering)?
Сигнали та анкери.
Оцінка (Evaluation)?
Варіації 'голку в стозі' (needle-in-haystack).
Запити (Queries)?
Стратегії розкладання.
Безпека (Safety)?
Запобігання ін’єкції контексту.
Перспективи (Outlook)?
Об'єднані архітектури пам'яті.
Спробуйте наживо
Усе, що вище, працює прямо у вашому браузері — відкрийте Hash Function Avalanche Visualizer і змінюйте параметри під час роботи. Нічого не встановлюється, нічого не завантажується на сервер, уся модель живе в одній вкладці.
▶ Відкрити симуляцію Hash Function Avalanche Visualizer