深度分析
多層圖與 Lévy Walk 驅動的 RAGP 提示壓縮：提升 LLM 長上下文效能
本研究針對大型語言模型的長文本提示壓縮問題，提出 Redundancy‑Aware Graph Pruning (RAGP) 框架。RAGP 先將文本建構為同時包含細粒度注意力依賴與粗粒度語義關聯的多層圖，然後利用具備重尾步長分布的 Lévy Walk 在密集的局部子圖與稀疏的全局連結之間交替探索，以訪問頻率作為重要性指標，篩除冗餘節點。
深度分析
本研究針對大型語言模型的長文本提示壓縮問題，提出 Redundancy‑Aware Graph Pruning (RAGP) 框架。RAGP 先將文本建構為同時包含細粒度注意力依賴與粗粒度語義關聯的多層圖，然後利用具備重尾步長分布的 Lévy Walk 在密集的局部子圖與稀疏的全局連結之間交替探索，以訪問頻率作為重要性指標，篩除冗餘節點。
深度分析
研究指出大型語言模型解釋成本高，作者提出以高效代理模型近似決策邊界，透過篩選驗證局部對齊，僅用11%成本達90%相似度，證明可用於提示壓縮與毒樣本移除，提升模型優化效率。此方法在多項基準測試中均表現出穩定的高忠實度，為實務上大規模部署解釋工具提供可行路徑。此技術亦可延伸至其他生成式模型的可解釋性研究。