日前，在宁召开的第二届江苏省人工智能大会上，中国科学院院士何积丰带来主旨报告《可信人工智能》。他表示，随着人类生活被人工智能广泛渗透，公众接受人工智能的程度也越来越高，随之而来的就是人工智能的可信问题。

去年3月，美国优步的一辆自动驾驶车在路试时撞倒一名行人，当时行人正推着自行车在人行道之外横穿马路，关于责任认定，车辆使用者和自动驾驶系统设计者开始扯皮。

“这些人工智能案例，是因为这些突发的场景并不在训练范围，机器也就无法从容应对。” 何积丰说，“可信”是计算机领域的一个概念，主要强调的是计算机系统和其处理过程的可预测性、可验证性。近年来，“可信”的概念也被引入到人工智能领域。

可信人工智能由我国提出，并在G20会议上被各国所认可，这也是关注人工智能发展的核心所在。人、机、物融合是当前社会面临的一个很重要的系统状态。如果把人、机、物中间的物理运动以及众多事件进行组合，如何进行系统性的训练和测试尤为重要。

在何积丰看来，人工智能的安全发展面临着“内忧外患”，对内要处理数据偏差、系统失误等情况，对外则要应对黑客攻击、场景受限等问题。他解释，人工智能系统与传统的软件系统有很大区别，这使得其安全发展面临一系列新挑战。例如，让程序学习检测皮肤癌，程序却发现恶性皮肤病变的照片里往往放着一把尺子，便以尺子来作为判断标准。

如何保证人工智能安全可控?何积丰表示，人工智能能够与行业、社会治理结合，具备新的赋能功能。因此，对于其安全问题，应该从两个层面来讨论，一层是人工智能技术本身的安全问题，一层是人工智能与行业结合后的潜在风险。以网络安全为例，他认为，人工智能很多目前应用到一线的产品，其实效果远未达到理想状态，尤其是算法、算力、网络体系和数据体系的安全性等，比如，数据传输过程中会不会被篡改，很难去验证。

人工智能的“可信”，也需要建立相应的法律、法规、标准和社会伦理准则。比如，对数据进行分类，规定这个数据哪些地方能用，哪些地方不能用。人类应该为人工智能技术的开发设定边界，不能做无限开发。

此外，何积丰指出，现阶段人工智能的通用性较弱，行业应用场景差异较大，技术大规模的普及应用仍未真正实现。因此需要有更多的技术推动人工智能通用发展，此趋势不可阻挡，不仅是技术发展的需求，更是整个社会经济发展的需求。

“很多人担心人工智能会不会带来失业潮，机器人会不会取代人的工作，其实这些消息都有些夸大。”何积丰表示，很多职业其实是被时代发展而淘汰的，机器人只是取代了一些简单、重复的劳动，还有部分高危、人类不愿意参与的工作等。与此同时，技术的发展也带来新的就业机会和新的职业。同时，我们也不必纠结于究竟何时能够实现真正的人工智能，去为它划定时间界限，当技术发展到一定阶段，人工智能足够安全，可以被人们信任、接受时，这样的可信人工智能时代自然会到来。