onnx-tensorrt

深度分析

NVIDIA：以合成資料與硬負例微調領域專屬嵌入模型（ONNX/TensorRT 部署實務）

面對通用嵌入模型難以掌握產業細節，NVIDIA提出一套從文件生成合成訓練集、採用硬負例挖掘與多跳問題展開的微調流程。此做法能在單GPU與一天內改造模型，官方示例在Recall與nDCG上約有十％左右提升，並支援ONNX/TensorRT與NIM部署以投入生產。