2021世界人工智能大会进行至第二天，华为、京东、蚂蚁等企业，中国信通院、中科院中英人工智能伦理与治理研究中心等研究结构、清华、复旦、交大、浙大等高校，共同发出了一份倡议——《促进可信人工智能发展》。 

对很多非业内人士来说，看到“可信人工智能”（简称“可信AI”）这组词语时，一定是满脑疑惑：人工智能还有“可信”和“不可信”之分？

“通俗点说，‘可信AI’的一个最显著特点就是以人为本。”金砖国家未来网络研究院中国分院院长朱禹涛解释。

“可信AI”源起

若从上世纪50年代算起，人工智能发展到今天已经历三次浪潮，目前正处于从第三次浪潮走向第四次浪潮的阶段。在前两次浪潮中，人工智能技术都处于实验室阶段，与人们的生产生活并不产生直接关系。但自从进入第三次浪潮，人工智能技术迈入产业化阶段，并成为第四次工业革命的核心的技术，开始融入人们生产生活的方方面面，展现出巨大变革赋能的潜力。 

根据IDC测算，2020年，全球人工智能产业规模为1565亿美元，同比增长12%；另根据中国信息通信院研究测算，目前我国人工智能产业规模已达到约434亿美元（约3031亿元人民币），同比增长15%。 

然而随着人工智能应用的广度和深度不断拓展，其应用领域的风险与隐患也不断显露，比如算法安全导致的信用风险，黑箱模型导致算法不透明，数据歧视导致智能决策偏见，系统决策复杂导致责任事故主体难以界定，数据滥用导致隐私泄露风险等。

机遇背后蕴含着挑战，更引发了人们对人工智能信任程度的思考。因此，2019年6月，二十国集团（G20）提出“G20人工智能原则”，并在其五项政府建议中明确提出“促进公共和私人研发的投资力度，以促进可信赖的人工智能（Trustworthy Artificial Intelligence）的创新；需创建一个策略环境，为部署值得信赖的人工智能系统开辟道路。”目前，这项倡议已成为国际社会普遍认同的人工智能发展原则。

学术界其实比政策制定者们更早一步推开了可信人工智能的大门。2017年11月，来自上海的科学家何积丰在香山科学会议第S36此学术研讨会上，首次在国内提出了“可信AI”的概念，即人工智能技术本身具备可信的品质。当下，可信人工智能研究范畴包括安全性、可解释、公平性、隐私保护等多方面内容。

随着“可信”成为共识，产业界也紧跟学术界步伐，纷纷投入“可信AI”的研究。数据显示，在各界的共同努力下，2020年可信人工智能研究论文数量相比于2017年增长近5倍。此外，京东、百度、腾讯、阿里等国内巨头，微软、谷歌、IBM等跨国企业都纷纷设立相关部门或项目探索“可信AI”的应用实践。 

“可信AI”的中国实践

表面上看，当AI被打上“可信”标签，似乎限制在变多，这是否将不利于未来人工智能产业的发展？ 

“其实并不是。”澳大利亚科学院院士、京东探索研究院院长陶大程认为，在“可信”框架下，人工智能可以被规范化的管理，而当一件事被规范化管理，并不意味着被限制，而是意味着给这件事的发展指明了方向。这就像给人工智能列了一个“负面清单”，在“负面清单”之外，人工智能的发展潜力可以被释放。而人工智能的负面清单就是“非以人为本”。 

比如，有了“可信AI”的概念，反而更有利于中国智慧城市的建设和发展。“一直以来，智慧城市建设的瓶颈就是数据不能互通和隐私如何保障的问题，这也是中国智慧城市一直停留在1.0阶段的重要原因之一。”朱禹涛表示，但如果通过“可信AI”建立一套脱敏的数据存储和调用机制，就可以解决当下智慧城市建设所遇到的难题。“只有这个问题解决了，智慧城市才有可能迈入2.0阶段。” 

除了智慧城市建设，“可信AI”还有利于推动中国传统产业的数字化升级。“可信AI是数字时代‘抵御风险’的关键能力。”蚂蚁集团副总裁、首席AI科学家漆远介绍，在中国，“可信AI”技术目前已在反欺诈、反洗钱、反赌博、企业联合风控、数据隐私保护在内的多个风控场景下落地，支撑着企业防御风险的需求。 

“‘可信AI’是人工智能发展的方向，当前中国已有了很多前沿的研究。但未来，中国在进行应用和落地时，依然需要保持开放的态度，加强国际合作，这样才能让中国的‘可信AI’实践走向世界。”朱禹涛呼吁。