基于卷积语义模型的搜索广告系统研究与实现

摘要

互联网的高速发展改变着人们的生活方式，层出不穷的服务不仅方便了人们的生活，也颠覆了原有产业。“互联网思维”这个名词也不断被人们提起。互联网产品和服务获得了流量和数据，而如何将这些流量和数据变现是“互联网思维”的关键所在。搜索广告，是在线广告中规模最大、增长最为迅速的广告形式。搜索引擎拥有大量的用户数据和流量，因此互联网公司迫切地希望通过搜索行为的指导来将这些数据流量转化为实际的商业利益。因此搜索广告的核心目标是根据用户的搜索词，来预测用户的搜索目的并投放相关广告，保证广告主与广告系统的利益，并实现用户、广告主与广告系统三方共赢，在搜索广告中，单纯考虑某一方的利益都是不可取的，搜索广告的投放是三方博弈后的共赢。　　本文首先对搜索广告及其相关特性进行了研究，然后针对搜索广告的独特性，对搜索广告系统功能性需求与非功能性需求进行了深入的分析，并结合在线广告系统的关键技术，对系统的整体架构以及各模块的功能进行了描述，最终设计并实现面向搜索引擎的在线广告系统。此广告系统包含查询处理、广告检索、广告排序与广告管理四个模块。广告主可以在广告管理模块中对创建并管理广告计划、上传广告素材、查看广告投放数据统计等功能。系统在收到用户搜索请求后，会对查询进行标准化和改写处理。广告检索模块会根据扩展后的关键词集合进行匹配，得到广告候选集。广告排序模块根据每千次展示点击率来进行排序，将排名靠前的广告返回给搜索引擎。　　本文针对搜索广告检索中语义匹配的问题，对比了三种语义匹配模型效果并选择了基于卷积语义匹配模型用于本在线广告系统。该模型先分别将查询词和广告标题利用word2vec算法进行向量化，得到查询和广告标题的向量化表示，针对广告标题用卷积神经网络把标题表达为低维语义向量，利用深度神经网络将查询表达为低维语义向量并通过余弦距离来计算两个语义向量的距离，用点击数据做有监督训练，最终训练出语义相似度模型。该模型既可以用来预测两个句子的语义相似度，又可以获得某句子的低纬语义向量表达。

目录

声明

绪论

第一节 研究背景与意义

第二节 研究现状

第三节 本文的主要研究内容

第四节 本文的章节安排

第一章 搜索广告相关概念

第一节 搜索广告

一、搜索广告售卖方式

二、搜索广告展示方式

三、搜索广告特点

四、搜索广告策略

一、文本语义相似度概念

二、文本相似度计算经典方法

第二章 基于深度学习的搜索语义匹配算法

第一节 词向量理论

一、词向量表示方法

一、深度结构化语义模型DSSM

二、长短期记忆语义模型LSTM-DSSM

三、卷积语义模型CLSM

第三节 实验设计与分析

一、实验前期工作

二、实验设计

三、实验结果及模型选择

第三章 系统分析设计与实现

第一节 在线广告系统需求分析

一、功能性需求

二、非功能性需求

一、系统总体设计

二、系统功能设计

第三节 在线广告系统实现

一、查询处理模块

二、广告检索模块

三、广告排序模块

四、广告管理模块

第四章 结论与展望

一、全文总结

二、后续工作展望

参考文献

致谢