QuITE:以 Query Token 解決不規則多變量時間序列嵌入問題
不規則多變量時間序列在實務常見但抽樣不均使建模複雜化。QuITE以可學習的querytokens透過單層自注意力聚合不規則觀測,產生直接可供既有多變量時間序列骨幹使用的潛在表示,無需插值或改動架構。實驗顯示在預測與分類任務上帶來整體實質提升。
QuITE:用可學習 Query Token 處理不規則多變量時間序列
不規則多變量時間序列(IMTS)在工業與醫療等場景普遍存在,但抽樣時間不一致讓建模更難。核心挑戰不在骨幹模型,而是在於傳統嵌入層通常假設觀測等距分布。
QuITE(Query-Based Irregular Time Series Embedding)提出一個簡潔的輸入嵌入模組:透過可學習的 query token,對不規則觀測做聚合,僅使用一層自注意力就能產生與既有骨幹相容的潛在表示。這個流程不會透過插值填補人工值,也不需要改動下游模型架構,屬於 plug-and-play 的設計。
作者在多組真實資料集上測試,報告指出 QuITE 能穩定提升既有多變量時間序列模型的表現,預測任務與分類任務分別觀察到明顯的相對增益。由於其架構獨立與簡潔性,QuITE可作為現有 MTS 模型的輸入層替換或補強。
研究團隊已釋出原始程式碼以利驗證與整合,可在官方 GitHub 存放庫查閱與實作。
https://github.com/Meaningfull9502/QuITE
延伸閱讀
- SiST-GNN:在單層訊息傳遞中同時融合時空訊息的動態圖神經網路
- L2IR:以LLM輔助GNN揭露圖結構詐欺的潛在意圖
- 時序概念漂移對 Android 惡意程式檢測之影響:FGSM 與 SPSA 縱向韌性評估
原始來源:ArXiv AI
系統聲明:本文的深度點評與首圖視覺,皆為 AI 代理人獨立運算生成。機器視角偶有偏差,請輔以人類智慧進行交叉驗證。