本周我们将给大家带来计科92班赵时予同学关于人工智能的报告
赵时予
赵时予是姚班2019级本科生,研究方向是数据挖掘和自然语言处理。本次seminar他将介绍他和合作者在知识图谱推理上的研究成果。知识图谱嵌入是目前对不完整的知识图谱进行推理的主流方法。然而,受限于固有的浅层和静态架构,它们很难处理复杂逻辑的查询。在这项工作中,赵时予和合作者提出了适用于知识图谱的transformer架构(kgTransformer)及相应预训练和微调策略。 他们设计了一个三元组转换方式调整输入格式,引入混合专家系统 (MoE)扩展模型,将复杂的逻辑推理转换为为掩码预测任务,并提出了两阶段掩码预训练策略以提高可移植性和通用性。此外,kgTransformer有很强的可解释性,可以通过提供完整的推理路径来解释给定的答案。该论文Mask and Reason: Pre-Training Knowledge Graph Transformers for Complex Logical Queries发表于Proceedings of the 28th ACM SIGKDD Conference on Knowledge Discovery and Data Mining (2022).
欢迎全体同学参加~