图(网络)数据在现实生活中无处不在,如社交图、电商图、蛋白质图和交通图,其可以灵活高效的建模复杂系统中的交互信号并在很多领域得到了广泛应用。相应的,图数据挖掘也吸引了大量研究者的注意,并成为数据挖掘领域最重要的分支之一。考虑到现实世界交互系统的复杂性,将其建模为包含多种类型节点和边的异质图可以实现更加细致全面的系统描述。如何挖掘异质图的潜在价值是一个值得深入研究的方向。近年来,图表示学习尤其是图神经网络已经成为图挖掘领域的热门方向之一,其旨在将节点、边甚至是整张图映射到低维向量空间并保持图本身的结构和性质。异质图神经网络,作为一种基于深度学习的图表示学习技术,其可以充分挖掘异质图上的复杂结构和丰富语义来学习节点表示并提升后续任务的表现。以推荐系统为例,通过建模用户及商品之间的多种交互,异质图神经网络可以聚合多样交互信息来理解用户的多样化偏好,进而实现精准的个性化推荐,并创造更高的经济价值。考虑到异质图的复杂结构和丰富语义,在设计异质图神经网络时,仍面临如下的挑战:(1)如何充分考虑图数据的异质性来设计图神经网络框架。(2)如何克服异质图神经网络的深度退化现象。(3)如何提升异质图神经网络对于图同构的区分能力(表示能力)。针对上述挑战,本文对异质图神经网络的关键技术开展研究。首先,研究了异质性建模问题,其作为深层退化现象和表示能力的研究基础。随后,进一步探究了异质图神经网络在分享推荐和组合推荐中的应用。综上,本文的主要工作及创新点如下所示:一,针对异质性建模问题,提出了一种基于层次注意力机制的异质图注意力网络。考虑到图上的异质信息与丰富语义,该模型设计了节点级别注意力和语义级别注意力来分别学习邻居与元路径重要性并以层次加权融合的形式来学习节点表示。有效性实验和双重注意力分析实验分别验证了异质图注意力网络的有效性和可解释性。二,针对异质图神经网络的深层退化问题(语义混淆现象),设计了一种深度架构的异质图传播网络。通过分析语义混淆现象与多元路径随机游走的等价性,本研究设计了一种个性化随机游走指导的异质图传播网络,其核心设计包括语义传播机制和语义融合机制,能够在深层聚合时强调节点自身的特性并融合多种语义信息,进而有效缓解语义混淆现象。随着模型层数的加深,异质图传播网络能够捕获异质图上高阶语义并将其注入到节点表示中,进而提升下游任务的表现。三,针对异质图神经网络表示能力的局限性,设计了一种异质距离编码来提升其表示能力。对于图同构数据,由于表示能力的局限,异质图神经网络无法对其进行有效区分和表示。本研究提出了异质最短距离来捕获节点之间的距离信息并将编码后的相对距离注入到异质邻居聚合过程,进而有效提升了异质图神经网络的表示能力。通过建模节点相关性,基于距离编码的异质图神经网络在多节点挖掘任务(如链路预测)上具有更强的表示能力和泛化能力。四,异质图神经网络在分享推荐和组合推荐中的应用。分享推荐研究了用户与其好友之间的商品分享行为,这是一种三元交互预测问题。本研究设计了一种基于异质图神经网络的分享推荐算法,其包括学习用户、商品和好友的表示的三元异质图神经网络、提升三元组适配性的对偶协同注意力和和建模非对称性的传递性三元组表示。组合推荐旨在为促销场景选取一组满足大部分用户偏好商品并实现真实投放收益最大化。本研究以异质图神经网络估计的偏好为基础,提出了联合建模商品选择和投放的comb-K组合推荐模型,其以带约束组合优化的形式来搜索和求解一组商品的最大真实收益。真实分享和促销场景数据上的大量实验验证了基于异质图神经网络的推荐算法的有效性。