代理式工具呼叫

深度分析

Switchcraft：以 DistilBERT 與 AST 比較器為核心的代理式工具模型路由

面對代理式AI工具呼叫帶來的高額推論成本，Switchcraft提出專為工具呼叫優化的模型路由器。系統以經過代理任務微調的DistilBERT作為輕量路由器，結合AST級別的工具呼叫正確性判定與成本模型，根據查詢與上下文選出最便宜且預測正確的模型。評測顯示準確率82.9%，推論成本下降84%。