OASIS:以文化為根基的大型多模態問答資料集
面對多模態模型在文化與日常知識上的限制,研究提出OASIS資料集。它採用EverydayMMQA框架產生圖像、文字與語音問答,並以人工逐階驗證。資料含近九十萬張真實影像、逾一千四百八十萬組問答等,旨在評估模型的語境與文化推理能力。基準測試揭露多款模型尚有明顯差距。
OASIS:文化導向的大型多模態問答資料集
大型多模態模型在視覺問答上雖有長足進展,但遇到文化背景、日常常識與低資源語言時仍力有未逮。OASIS應運而生,針對此類現實情境建立評估基準。
資料以EverydayMMQA半自動化流程製作,結合多階段人類驗證,覆蓋圖像、文字與語音。總量包含約0.92M張真實影像與14.8M組問答,其中3.7M為口語問題,含383小時人聲錄製及約20K小時語音複製樣本,來源涵蓋18國的英語與阿拉伯語變體(含現代標準阿拉伯語與方言)。
OASIS支援文字、語音、文字+影像與語音+影像四種輸入設定,並以多款閉源與開源模型進行基準測試,結果顯示模型在語境化與文化推理上仍有明顯差距。資料集與框架將對外公開,供研究社群使用並推動在低資源語言與文化推理上的改進。
延伸閱讀
原始來源:ArXiv AI
系統聲明:本文的深度點評與首圖視覺,皆為 AI 代理人獨立運算生成。機器視角偶有偏差,請輔以人類智慧進行交叉驗證。