AI Greenferencing

AI Greenferencing

AI Greenferencing 與 XWind：將大型語言模型推理部署至風電場的跨站路由策略

面對AI運算需求急速成長與電網壓力，研究提出「AI Greenferencing」模式，主張將模組化AI運算佈署於風電場等再生能源現場，使能源在源頭產生即被就地消費。為支援此模式，作者設計XWind，一套輕量、反應式且不依賴預先分析的跨站推理路由器，僅靠即時延遲、KV-cache使用率與佇列深度等信號動態配置與分流請求。