欢迎加入

名家讲坛

当前位置:首页 > 名家讲坛 > 详细内容

沈向洋:以负责任的态度打造负责任的人工智能系统

11月7日,第五届世界互联网大会在乌镇举行。大会上,微软全球执行副总裁沈向洋作了主题为“温故知新,以责任之心推动创新”的演讲。他表示,开发人工智能,需要以负责任的态度打造负责任的人工智能系统。

对于人工智能,既期待,又畏惧

沈向洋说,20年前,生活中没有现在司空见惯、习以为常的智能手机、云计算、社交网络等,它们彻底改变了所有人的生活,它们潜移默化、悄然发生却意义非凡、影响深远。

憧憬20年以后的生活,沈向洋表示,人工智能将扮演重要的角色,对此,他充满期待,还有些许畏惧。期待的是,尽管对人工智能将向何处发展有很多的疑问,尽管很多疑问今天没有答案,但能确定的是人工智能将会给医疗健康、农业生产、教育教学和交通运输等各行各业带来前所未有的重大突破,而且,这些突破正在迅速地发生。

畏惧的是,对于人工智能的发展,沈向洋提出一系列问题,如何确保人工智能平等对待每一个人?如何最大限度的确保人工智能安全可靠?如何在保护隐私的同时获取人工智能的益处?如何在机器变得越来越智能、越来越强大的时候不会失去对它们的控制?

人力资源、法律事务等部门负责人管理人工智能的开发

“回首过去的20年,我们会发现,新技术有时也会带来复杂的问题,引发社会关切。”沈向洋指出,放眼未来,人机联系、人机协作将变得更加紧密,并且,它们将给人们带来从未面对的全新挑战,比如说人工智能技术将给道德、法律和社会带来影响。

如今,人工智能已经存在偏见问题。他举例道,人工智能被用来筛选求职者,处理银行贷款审批,还有,语音识别不能辨析老人有口音的话语等,“而我们应确保人工智能系统能分辨出多元世界上所有人的声音,做到公正。”沈向洋指出,这只是人工智能需要解决的众多问题中的一个。

面对挑战和问题,人类应该怎么做?沈向洋说:“我们需要以负责任的态度打造负责任的人工智能系统。”

他指出,开发人工智能需要遵循“公平、可靠和安全、隐私和保障、包容、透明、负责”的原则,并以合乎道德的原则开发人工智能。“越遵循这些原则践行人工智能的开发,越能以道德职责管理人工智能,将更好服务世界,让人工智能造福每一个人。”

他还表示,微软内部成立了一个伦理道德委员会,由产品开发、研究员、法律事务、人力资源等部门的负责人组成。大家一起制定政策,管理和指导如何开发人工智能产品。

最后,沈向洋表示,解决这些问题,还需要与各级政府、企业共同努力。