让未来世界透明可解释的智能软件技术与方法

人工智能作为计算机科学最活跃的研究领域,在为人类持续创造新的惊喜的同时,也带来了关于可信性与可解释性的问题与挑战.2022 年 11 月 27 日,中国软件大会"面向可解释人工智能的软件工程方法与技术"论坛在线上召开.论坛联合主席石川教授应邀作了题为"异质图神经网络及其在软件工程领域的应用思考"的特邀报告,分享了他在异质图神经网络模型领域的最新研究进展,着重介绍了将现实复杂交互系统建模为图结构,并通过异质图神经网络进行预测分析的模型、系统和应用的新研究成果.论坛联合主席邢颖副教授应邀为本专题撰写《基于可解释性人工智能的软件工程技术方法综述》,分享了她对可解释性人工智能基本概念以及模型可解释性评估的理解,从软件工程研究者的角度分析了恶意软件检测、高风险组件检测、软件负载分配、二进制代码相似性分析等通过可解释 AI 提升智能软件系统可信度的方法,展望了软件工程与可解释人工智能相结合的重要研究方向.