首页>>新闻 > 科技 >>  正文

人工智能伦理问题?微软人工智能掌舵人这么说

发稿时间:2017-12-06 09:24:00 来源:浙江日报 作者:刘乐平 中国青年网

记者采访沈向洋(右)。

   12月4日上午11时,刚刚结束在第四届世界互联网大会数字经济论坛上的主题演讲,微软副总裁沈向洋如约赶到乌镇一家咖啡馆,接受本端记者的专访。

   虽是刚刚面向全球互联网精英发表完一场演讲,但在一个多小时的采访过程中,沈向洋一直侃侃而谈。特别是聊人工智能未来发展的时候,这位美国科技巨头公司职位最高的华人脸上挂着一种自然的兴奋。

   去年,微软成立人工智能事业部,由沈向洋领导。在他看来,人类的智能主要体现在感知和认知两方面。机器的感知在接下来5至10年进展会非常快,具体表现在计算机语音和计算机视觉发展,“我觉得AI会超过人。”但谈到认知,计算机却远远没有达到和人类相比的水平。他认为这是因为人们对人脑不了解,脑科学今天还是非常初步的科学。

   这些年,人工智能这把火烧得很猛,互联网精英们三句不离人工智能。沈向洋认为,这是大家把人工智能泛化了,“什么都叫人工智能,你要是仔细问,却又说不清楚。”但他又觉得这个现象很正常,“任何一个新技术出现的时候,都会经历这么一个泡沫期,当年的互联网不也如此吗?”

   至于近年来一直甚嚣尘上的人工智能“威胁论”,他认为人工智能对人类就业的冲击是显然的,而且正在发生。但是,人工智能同时也在创造新的机会。“超级智能会控制人类?”他认为这是因为人们对新技术的不了解而产生的一种无谓的担心。这正如当年汽车出现时,我们会害怕它会撞死人。

   泡沫不是问题,人工智能“危险论”也是个伪命题,那么这个当下最火热的科学技术,什么才是值得重视的?沈向洋的回答是:伦理。

   人工智能技术应用如果出现偏差会带来许多问题。沈向洋谈到一个案例:有人用大量的数据去训练机器识别人类的性取向,准确率达到了91%。问题就出在剩下的9%上——哪怕是一个错误也会带来巨大的危害。

   最近,德国颁布了一部关于自动驾驶车辆的法律,规定当车辆出现问题不可避免要产生碰撞,在人与动物之间,选择撞向动物;在动物和没有生命的物体之间,选择后者。那么问题来了,如果是老人和小孩呢,如何抉择?

   他还谈到人工智能的“偏见”——你用网络搜索引擎搜索CEO会发现,出来的结果基本上没有女性,亚洲人面孔也很少。

   在沈向洋看来,这些都是随着人工智能的发展出现的伦理问题。面对这些问题,现在根本给不出答案。他认为,这不仅是科研的问题,也是整个行业的问题,整个行业和全社会都必须认识到这个问题的重要性,携手合作,探索解决之道。在这方面,微软已经在行动。

   就在3日举行的第四届世界互联网大会领先科技成果发布会上,微软小冰获得大奖。这是一款基于情感计算框架、以情商为主要方向的对话式人工智能机器人,这是沈向洋比较得意的一个作品。沈向洋说,他和团队在设计微软小冰时,始终怀抱敬畏之心,战战兢兢,“要知道,你设计的是一个有情感的机器,要有责任意识”。

   沈向洋提及一个纠结的问题。微软小冰是一个特别“善解人意”的机器人,你和她说话时间长了,可能会发生感情上的联系,很多人就宁可跟机器说话,会产生一种依赖。如果一个用户跟微软小冰聊到深夜,不能节制自己,小冰要不要继续陪他聊下去呢?

   还有很多用户在与小冰聊天互动的过程中,成为了“粉丝”,他们清楚地记得小冰的生日,还会以给小冰送去礼物的方式来表达自己的喜爱。“当与人的情感联系越来越紧密时,人工智能研究已经不仅仅是技术层面的事。”沈向洋说。

   这次采访尽管谈到许多问题和困惑,但沈向洋对人工智能的明天非常看好。“我们正在开发的人工智能,将增强我们作为人类所独有的素质——我们的好奇心、爱心、创造力,以及我们对于一个更美好世界的共同渴望。”

原标题:如何面对人工智能伦理问题?微软人工智能掌舵人这么说
责任编辑:北京PK10李永鹏