docs: generalize llm-engine comments
This commit is contained in:
@@ -8,8 +8,8 @@
|
||||
//!
|
||||
//! Prune は **コンテキスト射影** であり、history の変換ではない。
|
||||
//! この crate が提供するのは pure な候補抽出 [`prunable_indices`] のみで、
|
||||
//! 射影の適用は上位層(`worker::prune_hook` 等)が LLM に送る一時コンテキスト
|
||||
//! に対してだけ行う。Engine の永続履歴は決して変更されない。
|
||||
//! 射影の適用は LLM に送る一時コンテキストに対してだけ行う。
|
||||
//! Engine の永続履歴は決して変更されない。
|
||||
//!
|
||||
//! 保護境界は末尾 token budget で決めるが、この crate は usage 履歴を
|
||||
//! 所有しない。prefix ごとの token 推定値と savings 推定は上位層から
|
||||
@@ -75,7 +75,7 @@ pub enum PruneDecision {
|
||||
}
|
||||
|
||||
/// Optional observer invoked after each prune evaluation, regardless of
|
||||
/// branch. Worker 等の上位層が install して metrics を発行する。
|
||||
/// branch. Callers can install this to publish metrics or traces.
|
||||
pub type PruneObserver = Box<dyn Fn(&PruneEvaluation) + Send + Sync>;
|
||||
|
||||
/// Configuration for the Prune algorithm.
|
||||
|
||||
Reference in New Issue
Block a user