其他
DARPA将启动人工智能项目 促进更好的人机协作
本文由国防科技要闻（ID:CDSTIC)授权转载
来源：美国《军事与航空航天电子学》
编译：中国国防科技信息中心 王璐菲
为促成更好的人机协作，美国防高级研究计划局（DARPA）将启动一项人工智能与机器学习项目，名为“可解释的人工智能”（XAI）。8月10日，DARPA发布了该项目的跨部门公告。
项目背景
人机协作的历史可以追溯到工业革命时期。当前，机器学习方面的巨大技术进步已引发新人工智能（AI）能力的爆发，这些新人工智能能力生成了自主理解、学习、决策和行动的自主系统。虽然此类系统可带来颇多益处，但由于机器无法向人类用户解释自己的决策和行动，其有效性受到了限制。
项目构想
XAI项目的核心是机器学习与人机交互，寻求创建机器学习与人机交互工具，使依赖于人工智能系统的决策、建议或行动的终端用户，能理解这些系统做出相关决策的原因。XAI工具将有助于向终端用户提供对人工智能系统决策的解释，使用户理解人工智能系统的强项和弱点、未来的行为取向，甚至了解如何校正其错误。
项目挑战
XAI项目旨在解决3个相互关联的研发挑战：一是如何生成更多模型；二是如何设计解释界面；三是如何理解对有效解释的心理需求。为应对第一个挑战，项目寻求开发一些机器学习技术，以生成可解释的模型。对于第二个挑战，项目寻求集成最先进的人机交互（HCI）技术，包括生成关于有效解释的新原则、策略及技术。在第三个挑战方面，项目计划总结、扩展和应用关于解释的当前心理学理论。
技术领域
XAI项目涉及两个技术领域：一是研发一种可解释的（机器）学习系统，包含可解释模型和解释界面；二是纳入关于解释的心理学理论。
项目期限
XAI项目将从2017年5月开始，持续4年。