一种受阅读策略启发的跨模态视频检索方法

摘要

本发明涉及视频跨模态检索技术领域，尤其涉及一种受阅读策略启发的跨模态视频检索方法，对于视频编码，采用预览分支和精读分支共同学习来表示视频，预览分支旨在简要地捕捉视频的概述信息，而精读分支旨在获取更深入的信息，本发明将从预览分支生成的较早的视频特征集成到精读分支中，对精读分支的特征提取做进一步指导，使得精读分支可以感知预览分支捕获的视频概述，用于提取更细粒度的特征，将两个分支的得到特征分别与文本特征映射到两个不同的混合空间中，在混合空间中进行跨模态匹配，从而实现文本到视频的跨模态检索。本发明使用端到端的方式训练模型，并在性能和模型复杂度上达到了最佳平衡。