李开复：面对AI风险是否该允许试错

　　瑞士当地时间1月26日消息，创新工场董事长兼首席执行官李开复今日在2018年世界经济论坛年会上接受新浪财经专访。

　　谈及如何应对AI人工智能的安全风险，他指出，中方和欧美的主流辩论观点完全不同：中方希望产品快速落地，然后再就错误调整；欧美则希望先讨论所有的潜在问题，再推动技术发展。这种差异会进一步影响到各国的相关政策。

　　着眼未来，李开复认为中美在AI领域存在相似的机会，双方各有优势短板，未来中国有机会成功追赶美国，至于能否超越美国，则还有很多变数。同时，他也提醒国内要谨慎考虑安全隐私问题。“哪怕挣很多钱，只要有一次严重的危机发生，……那行业就可能会倒退3年或者5年。”

　　AI替代大部分人类工作的预测引发了外界关于失业潮的担忧，李开复则认为有必要对受AI影响行业的从业者进行职业再培训。他对此表示，“有四个领域是AI很难取代的，一个是需要手巧的，一个是需要有创意的，一个是需要有爱心的，还有一个是需要相对复杂战略性、跨领域思维的。”

　　但他也指出，这种再培训需要政府和企业的参与。“如果我们无为，什么都不做，那么15年以后我们必然面临人类有史以来最大的挑战，甚至是最大的灾难。”

　　实录如下：

　　李开复谈中西方辩论：面对AI风险是否该允许试错？

　　新浪财经：今年您在达沃斯与许多科技界精英就AI人工智能进行了深入探讨，您是否能与我们分享一下您的见闻和感受？

　　李开复：这次我跟Google DeepMind的联合创始人Mustafa Suleyman，Google CloudAI/ML领域首席科学家李飞飞都有很多交流。我感觉到Google在AI方面是领跑世界的，这个是毫无疑问的，但他们也很坦诚。尽管 AlphaGo Zero没有经过训练数据就可以超越人类几千年历史的游戏，但他们也表示AlphaGo Zero只是针对围棋这样一个规矩和奖励制度相对比较标准的游戏，别的领域可能三五年都未必能做出结果

　　李飞飞聊到，她未来的梦想就是看到人机结合、协作。我个人认为其实蛮难的，因为从资本和企业的角度，一定是想赶快把AI用来取代人类，或者用它来赚更多的钱。对于人机结合1+1=3的工作是该有更多的人做，但是现在学校做不起，大公司觉得不赚钱，资本也不会进入。飞飞就提出一个问题：我们梦想的这个愿景是到底谁来执行？

　　新浪财经：面对AI可能带来的安全风险，我们该如何应对？

　　李开复：我这次在达沃斯也讨论到人工智能带来的几个困扰，包括安全、隐私、贫富不均、工作的取代，还有偏见。在这么多挑战和不成熟的前提下，我们应该怎样前进？我认为，这里有一个标准中国派和标准欧美派的辩论。

　　中国派会说，安全问题当然得注意了，但除了安全问题，科技的浪潮来的太快，我们一定要快速的执行和推进。AI需要大量数据，所以我们先把东西做出来，有了数据后一定会越做越好，无论是保护隐私还是用大数据让系统更精确，让用户更满意，我们是可以调整刚开始的错误的。

　　欧美思维会说，这么重大的事情我们不能草率的来做，一定要从各个方面好好的辩论。例如，当一辆无人驾驶汽车面对这边有1个人会确定被撞到，那边有2个人可能会被撞到的情况时，车会如何做判断？这都需要（研发者）解释，然而AI本身是很难解释（这个问题）的。欧美希望有不同的声音，通过非常理性、深度、有逻辑思维的辩论达到一个共识，然后用这个共识再来推进技术。所以这两种思维是有非常显著的不同。

　　新浪财经：就是一种是去试错，一种是要防患于未然，可以这样理解吗？

　　李开复：可以这么理解。

　　新浪财经：这会导致在政策上有什么样的差异吗？

　　李开复：基于更深思谋虑的这种方式，政策制定者会希望把数据权利给回人，然后重写商业规则。如果今天一切推倒重来，这个模式可能会是一个最能基业常青、立足百年的方法。但是Google、Facebook在欧洲已经赚了这么多钱，用户数据都在他们手中了，你叫他们吐出来，这怎么能做到呢？

　　当然我们也看到欧盟可以用罚款的方式，逼着Google、Facebook就范。这可能会给中国公司带来机会，因为Google、Facebook不会单独为欧洲做一套系统，在这种情况下，也许腾讯这样的企业就可以更容易进入。我们不能批评这种欧洲式的思维不对，但是今天科技时代跑的比历史上任何时候都快，这种思维会不会让它落伍呢？我觉得这也是很有意思的观察。

　　未来的AI独角兽会在哪里出现？美国，欧洲还是中国？

　　新浪财经：现在欧洲暂时没有看到特别突出的AI团队，也是因为这些原因吗？

　　李开复：欧洲面临很多挑战。欧洲的AI教育其实非常好，我拜访过剑桥、牛津，那边有很优秀的教授做出了成果，但是都偏理论。从创业环境看，伦敦有欧洲最顶尖的创业环境，但它的VC偏少偏保守，回报偏低，所以估值方式跟中国完全不同。再加上欧洲不是个很大的市场，语言把它切割了，在英国的创业者只是把英国当作一个市场，所以它的估值就会很保守。

　　我曾跟英国的VC聊，他说他们希望在A轮（投资）之前就能看到10万英镑的收入，我就问他说10万英镑的收入有什么意义呢？我们是要做一个伟大的独角兽。他说他们没有用户量的数据、活跃度的数据，就只有靠收入的数据。所以他们就把自己逼向了一个死胡同，在这里面就是一个小市场，格局观不够，VC（风险投资）钱太少，回报不高。即使有很好的技术，也似乎没有办法扭转它必然落后中美的状况。

　　新浪财经：相对于欧洲来说，中国第一拥有非常充足的资本，第二是有庞大的大数据，第三政府大力扶持AI。中国未来在AI领域是否能复制美国当前的成功，甚至超越美国，培育出AI行业巨头？

　　李开复：如果我来预测的话，我觉得中美应该是有大约类似的机会的，当然今天美国是领先的，我的意思是中国会成功的追赶，但是否会超越，它里面还有很多变数。

　　从我提出的四波人工智能浪潮来看，其实中国有些是领先、有些是落后的。第一波是互联网AI，这个我觉得中国过去是落后的，但是现在已经超过美国了。就巨头的对标估值而言，除了百度、Google之外，中国都已经开始跟美国持平了，而且以后应该会超过；

　　第二波浪潮，就是说用已有的商业数据来创造商业价值，可以涉及银行、保险、医疗等领域。这个其实中国是落后的，而且会持续的落后，因为中国的数据是零乱的，是没有经过整理，没有经过数据仓库。如果要调动它来做很好的银行、保险或是医院的应用，相较美国是有差距的。所以我觉得美国有大数据基础与数据仓库的基础，会做的更好；

　　第三波浪潮，我称为是数字化全世界，也就是说用视频和语音落捕捉过去未曾有的数据，还有传感器用传上来的数据来做聪明的决策，比如说在无人商店里面，我们通过摄像头跟传感器可以了解谁来了、谁买了、谁看了、谁没有买，然后用这些数据把线下的商店变得跟线上一样聪明，或者也可以用在教师、智能交通、医院、诊所等等各个领域。这种遍布摄像头的生意，我觉得欧美是很难接受的，所以这个我觉得中国会领先；

　　最后谈谈自动化AI，也就是说无人驾驶、机器人工业商业的应用。这个我觉得美国现在有优势，因为这个技术的门槛是最高的，中国有更大的落差要追赶。

　　同时，美国还有其他优势。美国的劳工价格是比较高的，比如说美国一个洗碗工或者采水果的工人的收入可能是中国的5倍或7倍，机器人取代人会更容易一些。假设洗碗工在美国是3万美元/年，一个机器人能取代5个洗碗的人，那用15万美元的租金就可以跟人工持平了；但是中国洗碗工的收入水平是美国的1/5的话， 那15万就不行，还要把价位再降下来。但是在技术初期的产品一定会贵，所以自动化AI可能会在美国先落地，就如现在美国有许多熄灯式的自动工厂。

　　当然，我们知道深圳是“世界工厂”，从有人化到少人化到无人化（的道路），它也是可以走的。国内我们看到也有更好的政策在推动无人驾驶，这些是中国的优势。所以我觉得其实真的蛮难说的，中美应该都有机会。

　　此外，我觉得我们还是需要谨慎考虑安全隐私问题。哪怕企业挣很多钱，只要有一次严重的危机发生，比如说10万个用户的钱被偷光了，或者是无人驾驶被恐怖分子劫持成了杀人武器，只要发生一次，那行业就可能会倒退3年或者5年。所以我还是觉得，虽然我们是有机会（超越美国），但是欧美的顾虑有道理的，我们应该用符合中国国情的方法来去研究，怎样去避免这些灾难的发生。

　　新浪财经：在中国研发AI的大部分都是像BAT这样的超大型科技公司，您认为在中国对于创业者来说，有没有机会在AI这个领域去突破或者说有机会成长？

　　李开复：我觉得机会还是很多的，因为AI是覆盖所有行业的，很多行业BAT是不关注的或者是没有优势的，比如说医疗行业，比如说无人驾驶，比如说工业AI，都不是BAT擅长的。

　　当然，金融可能是BAT可以进去的。确实会从整个AI革命来说，BAT应该有最好的位置来得到最大的福利。但是因为领域太大了、盘子太大了，还是会有很多创业者找到一些BAT没有看到或者没有优势，或者可能因为回报少而不足以吸引BAT的领域。

　　例如，安排10个工程师去做一个保险公司软件，能收2千万/年，但是这些工程师去做一个广告系统，可能就是2亿的回报，所以BAT不见得会把人放到这种新兴业务上面去。但是对一个创业公司来说，你如果做2年就有2千万的收入，然后又有一个很好的成长， VC就会很愿意投入大量资金。

　　人工智能带来失业潮？四个领域AI难以取代

　　新浪财经：当AI替代大部分人类工作后，人该何去何从？比如实现无人驾驶后，货车司机该怎么生存？

　　李开复：我觉得这是一个很好的问题。今天AI逐渐取代人类的工作任务，再下面就会取代一部分人的工作。在这个过程中，它对人类的挑战不仅是收入的减少，而是挑战人的自我实现的存在价值。

　　货车司机认为，我的价值就在于我能够把这些货很准时的送到什么地方，我对人类是有贡献的，我是有价值的，突然机器比人开的好了，我应该怎么办？我们必须要考虑重新训练这些可能会被影响的职业者，要考虑到社会福利。社会福利不是说盲目的发钱给大家，而是说如果你愿意学习，那我们可以寻找一些比较不会被取代的行业。

　　我觉得有四个领域是AI很难取代的，一个是需要手巧的，一个是需要有创意的，一个是需要有爱心的，还有一个是需要相对复杂战略性、跨领域思维的。从孩子的教育来说，要赶快发掘这四个方面的优势；从培训的角度来说，去培训一个特别有创意的科学家、战略家或CEO可能会有困难，但是去培训一个手艺比机器灵活的职业者，还是有机会的。水管工、飞机维修工程师这些职位短期还不会被AI取代。

　　如果考虑到关怀、爱心行业，例如养老院、孤儿院或医院的志工，又例如导游、按摩师或者各种服务行业，这些工作首先是有经济价值，第二是可培训的，第三我觉得很重要的是，他们基本是助人的，助人就会带给我们一种满足感，甚至可能会超过今天的货车司机。

　　比如货车司机得到了重新培训，到老人院去帮助老人，扶他们站起来，帮助他们洗澡，跟他们聊天，我觉得一天之后，他的满足感应该更强烈。我觉得、、人与人之间的心是相通的，如果得到他人真心的感谢，就一定能得到自我存在感。

　　新浪财经：AI发展迅猛，您提到这些职业培训，包括我们对下一代的培养还需要时间，在这个过程中，人类和AI之间会不会出现敌对或胶着关系期？

　　李开复：接受新工作，被重新培训，这肯定是一个艰难的过程，因为人有惰性，同时也可能会因此忧郁，我觉得这可能是最大的问题。所以我们必须要尽全力来推动，政府机构或者企业也应该参与其中。

　　比如说 “双创”，我们过去讲到“双创”想到的都是创造科技公司，打造下一个BAT，但实际上我觉得不是每个创业者都能做BAT的，我们是不是能够有一种新的社会企业和VC（机制），专门来投资和支持能够提供就业机会的公司。

　　作为公司，它必须要盈利，但这些公司可能成不了独角兽，我们对他的要求就是能证明自己盈利和可扩张，例如今年提供100个工作，明年提供500个，后年提供1000个，这样可以成长，这些工作是可培训的。

　　如果有这么一批公司进入我们双创的方向，得到各种政府的补助，或者有一批新的VC是有爱心的VC，他们不是纯粹为了回报，而是要为社会创造价值，我觉得这些东西都是我们需要提早思考的。

　　我自己虽然是个（AI）乐观者，我也描述了很多未来的愿景，但是我很清晰的也看到了，如果我们无为，什么都不做，那么15年以后我们必然面临人类有史以来最大的挑战，甚至是最大的灾难。