颜水成:AI没有完美算法,人类要处理技术之上的道德困境_经济_宏观频道首页_财经网 - CAIJING.COM.CN
当前位置:宏观频道首页 > 经济 >
个股查询:
 

颜水成:AI没有完美算法,人类要处理技术之上的道德困境

本文来源于财经网 2018-08-11 16:42:00 我要评论(0
字号:

微信图片_20180811182801

奇虎360公司集团副总裁、首席科学家、人工智能研究院院长 颜水成

“深度学习或是人工智能没有完美的算法,意味着人类本身一定要处理很多问题。比如自动驾驶领域,在极端情况下你到底是撞前面的人,还是把车右转出车道让自己产生伤亡,道德层面真的不知道该怎么做。”8月11日,奇虎360公司集团副总裁、首席科学家、人工智能研究院院长颜水成在由厚益控股和《财经》杂志联合主办主题为“共享全球智慧引领未来科技”的世界科技创新论坛上如此表示。

颜水成认为,在学术界和工业界,AI技术无外乎三种,一种是非常原创的,我们叫颠覆式创新,还有一种是微创新,第三则是没有创新,直接跨行业应用。其中,学术界的研究成果跟数据、应用场景是相对独立的,这意味着学术界研究的原创性非常重要,如果没有原创性,就很容易被大家遗忘。

颜水成还表示,他昨晚刚和一位国内Top教授讨论,中国国内在机器学习核心理论研究上的顶尖学者可能不超过10人,可见,在这一领域,中国人才储备堪忧。

对于技术的安全性,颜水成认为,AI传感器的安全,AI软件的安全性,以及软硬结合的连接安全,都非常重要。除此以外,AI还涉及一些道德层面的问题。比如自动驾驶领域,你到底是撞前面的人,还是把车右转出车道让自己产生伤亡,道德层面实际上是两难的。

以下为发言实录:

颜水成:我是属于跨界的,原来在学术界当教授七年,后来在360已经待了近三年了。不得不肯定,在过去这些年人工智能发展的速度非常之快,特别是在学术界,大家可以看到每一年跟人工智能相关的学术会议发表的文章越来越多。去年做过一个粗略统计跟人工智能相关的会议每年发表的数量有4000多篇,这样带来一个很大的问题,我们到底到哪儿去寻找足够多的审稿人,能对文章进行正确的审核。今天我不准备谈人工智能有多么红火,大家都看到了。今天我想分享两个人工智能技术比较长远的话题,原创性和安全性。

在学术界和工业界,AI技术无外乎三种,一种是非常原创的,我们叫颠覆式的技术创新;一种是微创新。三是没有创新,技术在一个领域取得了成功然后照搬到另外一个领域来。学术界做人工智能的研究成果跟数据、应用场景是相对独立的,意味着在学术界做研究原创性变得非常重要,如果没有原创性就很容易被大家遗忘。

AI是一个非常大的范畴,在这我先聚焦深度学习,如果我们仔细去观察在深度学习领域最原创的成果,比如卷积神经网络,生成式对抗网络GAN、深度学习与增强学习的融合。可以看到最初的点其实都不在中国,中国在这个领域更多的是说这个成果出来之后,大家觉得非常有意思,就都进来了。比如像GAN,大家发现很有意思之后,计算机视觉领域的CVPR会议,就能看到一堆的文章全部做相关的事。但真正能被大家所记住的还是第一人GoodFellow。

最近深度学习的发展,对理论的需求越来越高,也就是说我们不再只是去调调参数或者在一个网络上稍微做一点调整。昨天晚上我跟我一个好朋友,一个做的非常好的教授聊天,我跟他做一个讨论,我说能不能把中国国内做机器学习核心理论研究做得非常好的研究者全部列出来,我们俩微信交流后,最后有一个名单。我的List大概有10人左右,但那个教授更加保守,他的List才5个左右。也就是在中国做这个领域,已经非常优秀的人才的储备是非常少的。

当然也不要那么悲观,现在国家新一代人工智能的战略出来之后,对大家来说是一个很好的契机,尤其做的还不错的研究者可以留在学校慢慢在这方面做一些比较长远的贡献。

工业界稍微会有一些不一样,它就是要解决问题,有了数据,产生一个模型,应用到产品里,如果不好就去想办法,收集额外的数据来不停迭代从而解决这个应用场景的问题。一个业务的成功取决的因素不只是技术,像技术、产品,最终用户,也包括我们的团队。这样的话,即使不聚焦原创技术,也有机会成就一个比较优秀的公司。如果这个公司能有足够的投入,比如你可以专注在这些比较原创的技术,而且把技术用在产品中的话意味着你最终不只是一个好公司,可能是一个great公司,《从优秀到卓越》。国内卓越的公司还是比较少,但我们已经具备这个条件了,我们有好几个公司成为在世界范围内巨头的公司,有足够的财力去组建相应技术研发的部门,瞄准的是三五年时间的产出,而不是一年,甚至更长时间的目标。所以我觉得机会还是非常有的。

另外一个维度,我想分享的是安全性。可能大家现在思考的还不是非常多,但其实非常关键。360作为一家安全公司我们在这方面有非常多的探索,比如第一点智能硬件我们会用传感器,比如摄像机、Lidar、Radar,这些传感器其实是非常脆弱的,很容易被攻击的。比如一个摄像头拿激光笔对着它,那它很快就会被致盲。还有一个领域可能大家思考非常少,就是会有设备老化的问题,老化之后传感器获取到的信息的精准度没有以前那么高了,现在人工智能的算法都是不停的调优得到的,之后到底它会产生什么样的影响,以前的模型到底是不是能工作,整个领域基本上还没有做太多的探索,这是第一点。

第二点,AI软件的安全性。这一点360研究比较早,Caffe或者TensorFlow它们多是建立在底层的SDK上的,这些SDK可能里面也有bug,比如我们360做一个图象识别的算法部署到服务器上,可以利用软件的漏洞在图片上加一些信息进去,这个图片就可以让我的服务系统,或者陷入死循环,或者被劫持而获得系统的控制权限,这些也是我们平常想的非常少的。

第三点,对于软硬结合的智能硬件,意味着连接变得不可或缺。连接之后意味着黑客就有机会渗透到你的智能硬件里面了,他想做什么样的事就他说了算。

另外可能还涉及到道德层面上的问题,我们基本上有一个观点,深度学习或者人工智能是没有完美算法的,就意味着人类一定要处理很多问题,比如你做自动驾驶,在极端情况就一定要做出决定,你到底是撞前面的人还是把车右转出车道让自己产生伤亡,这个从道理层面真的不知道该怎么做。总的来说我想说的是,原创性和安全性非常重要,如果想要您自己和您的AI公司能活的更长久更优秀,这两个维度是大家真的要花时间去关注的。

谢谢大家!

(编辑:林辰)
分享到:

财经网微评论0人参与)

查看更多>>
匿名评论
  • 全部评论(0条)
查看更多>>

热门文章

编辑推荐

要闻

更多>>

编辑推荐

  • 宏观
  • 金融
  • 产经
  • 地产
  • 政经
  • 评论
  • 生活

排行榜

  • 热文
  • 本周热文
  • 热图
  • 热评
  • 博客