AI这些潜在威胁,人类要小心了


2017-01-31    车品觉


五年后,我们要学会与人工智能共存


造就:五年后,大数据行业会发展到什么样的水平?

车品觉:过去是数据集中在行业内的应用。渐渐的,我们把零散应用加在了集中应用上,从单一到互动,从而产生了更多的数据循环。数据将从低频到高频,人和机器的互动会增强,这是用(数据)和养(数据)的关系。

举例来说,从前我们只知道路上会有多少车流、多少人流,但有了类似滴滴这种应用后,我们不但可以知道人流量、车流量;我们还可以知道他们是什么类型的人,要到哪里去。这就会产生新的应用。

也就是说,从前的大数据行业是先有应用,再有数据;未来的行业则是产生了数据后,根据数据产生更多的应用。


我们还是在高估技术的短期影响,而低估了它长期的影响。现在见到在企业中的人工智能应用,影响到的还是很微细的点。五年后,我们会看到人工智能和传统企业的业务产生结合或者对接,人工智能会比人类操作“养”出更多的数据。

另一方面,大数据可以让我们挖掘出很多以往没有的资源,每次的数据在达到一个量级后,就会出现一些新的可能性,会产生全新的应用、全新的解决方式,比如基因测序带来癌症治疗的新方式。

人工智能和大数据像互为助力的两个轮子,结合起来会跑得比现有的法律法规更快。我们会碰到一个新的问题:人和机器利益点的博弈,也即我们所说的伦理思考。

五年后,人类会慢慢发现两者之间的博弈,我们要开始学习和人工智能、大数据共存。这是人类从前从未面临过的、前所未有的问题。

大数据、人工智能领域,这些潜在威胁,人类要小心了

造就:未来五年,在大数据领域,人类有哪些可能潜在的威胁需要注意?

车品觉:不要只看科技的发展,还要看它带来的挑战。人类不能和一个比自己高的东西来打,他会觉得这不是地球上该有的一个生态平衡。比如阿法狗(AlphaGo)对弈人类的棋手。

第一,面对技术的发展,人类要考虑到底是要压制还是鼓励,这是机会与风险的衡量。所以,在未来五年,我认为AI(人工智能)、大数据、法律、伦理之间会相互产生碰撞,出现很多边界上的问题。

在这之中,AI会和大数据的发展形成合力,让AI找到新的应用,让小部分人开始影响大部分人。而当大部分人受到影响时,法律和伦理的发展却会延缓AI和大数据的发展速度,因为法律、法规需要去保护那些在毫无准备中被新技术影响的人。


一个最简单的例子,如果我们很早就说明哪些数据不能存储,也许我们就会压制了如今大数据行业的研究进展,但也有可能减慢了隐私数据泄漏的风险。

第二个有可能的风险是,企业有垄断法,而未来的数据会不会有垄断法?我们今天连数据的拥有权都没有想清楚,更不会想到有垄断。但数据垄断是比企业垄断更可怕的事情,对于创新的压制,对于不平等的加剧都会产生深远影响。

大数据和AI将不断进化,不会因为人类停止

造就:五年后,对人类颠覆最大的技术是什么?

车品觉:第一,五年后对人类影响最大的肯定是各种形态的机器人。各种智能硬件与开源数据库连接,越来越多的企业之间会由无数的数据来连接。他们不再是用语言沟通,而是用大量的数据去交互。

第二个技术会是VR。VR极大影响人类和机器的界面,因为VR我们不再会基于现在的物理环境进行交互,我们的社会会产生非常大的变化。数据将像电一样,永远不能停止,而服务器和网络骨干会因此产生非常大的压力。


造就:人类该如何面对五年后这种被颠覆的世界?

车品觉:我们对数据的争议会越来越大。但大数据和AI的发展,不会因为人类的争议而停止进化,适用于AI的场景会越来越多。

人要越来越习惯和AI共存。这会是一种新的社会形态或者需要我们现在就开始思考的问题。

对一个普通人来说,你要慢慢开始认知自己作为个体的风险点在哪里。你要知道,使用这个应用,最终会面临什么?

比如说,我们都推荐精准的算法。但我在阿里做过一个“让广告商找到最好的广告方式”的项目,在其中我们发现:次一等的、差一点的广告,再也没有人要。


举个例子,假如你要去买猪肉,精准的算法告诉你这里的猪腱肉是最好的,所有的顾客都来买猪腱肉。虽然我的名气因为推荐大大增加,但我摊位上的其他猪的部位就卖不掉了,同时我的猪腱肉也完全满足不了需求。

这等于虽然名气和爆款都有了,但我却失去了利润和规模。

俗话说“水至清则无鱼”,非常精准的算法会令资源和配置出现很大的失衡。如果是人来操作,这些资源很可能足够平均分配,因为人有一定的出错几率。但如果是使用机器,这些资源可能根本无法支撑精准算法带来的新世界,比如人健康长寿后,也许生存资源就无法满足了。

另外,精准化的结果往往会让创新减少,资源趋向匮乏。在大数据技术刚刚大规模应用时,不少专业人士说,大数据只讲相关性,而不讲因果。到了今天我会发现,现在在行业发展过程中出现的问题是因为只讲相关,而不讲因果。

比如人类大量使用了AI,是不是他独立处理问题的能力会渐渐变弱了?

数据黑市越来越大,这是个大问题

造就:在你的领域中,你认为中国最需要解决的问题是什么?

车品觉:在我所研究的大数据领域,我觉得中国最需要解决的问题是,如何让数据能流通。

大量不同行业之间的数据互通,是目前法律、法规还未给予的权利。这极大压制了大数据的应用,也令数据黑市形成并壮大。我觉得政府需要合理地做实验。

五年里会有越来越多的数据让我们很难判断,是否用得合情合理。所以有序地开放部分,让人们去做实验,让它暴露出问题,才能让我们判断该如何管理。


现在大数据的研究在全世界存在一个问题:让人很难决定某项研究到底该做还是不该做,使用这些数据的风险在哪里?

离开阿里之后,我想去看更多的数据在地方、在更个体化的起因中会怎样流通、使用。

大数据不是给你“算命”

造就:人们对大数据的最大误解是什么?

车品觉:大数据并非根据个体数据一看就能“定生死”,只有数据越多,得出的结果准确率才能越高。它不是个体化“算命”。

大数据最容易变现的应用是广告领域,只要数据量增加,精准度就会提升。万一精准度不足,对你的影响也很低。只有不断地在使用中修正参数,我们才能不断解决最大近似值。

类似罕见病的治疗方式,因为没有足够多的数据以研究不同治疗方式的影响,你以为你拿到的数据准确度很高,但实际不然。一旦出错,很可能就会出现致命的结果,大数据也无法在累积中进步。

所以,大数据在结果非常重要的、但可参考个例很少的决策环境中没有什么用。


造就:你对未来乐观吗?

车品觉:我对未来肯定是乐观的。人类一直是通过不断寻找新大陆,来获得文明的延续和发展,哥伦布在寻找新大陆之前,很多人失败过,但最后总会有人成功。

对于未来,我持相信但不盲目的态度。但我有一个担心,对于人类来说,预知一切就会快乐吗?比如算命先生告诉你,虽然你看起来很健康,但你还有十年命。你会怎样?

人工智能会尽其所能地告诉你一切,人类在未来五年能否适应这一点?给人类更多的确定性,对他的幸福感提升是否有帮助?还是让他感觉到这个世界变得更糟?

对人类来说,我最担心的是,比如算命告诉你,你只有三年命,你应该为此预测觉得开心还是不开心。五年中最大的风险和机会都在这里。