三胜产业研究中心 商业计划书 可行性研究报告

全国咨询热线:400-096-0053

三胜咨询 - 中国领先的投资咨询机构

·10万份行业报告 ·丰富成功案例

何哲:人类过度依赖人工智能可能会导致物种退化

2018-12-5 10:15:38  来源:北京日报  http://www.china1baogao.com/

  原标题:何哲:人工智能最终可能控制人类吗


  一种观点认为,人工智能是人类设计出来的,因此不可能超过人类。但实际上,人工智能是人类智慧与机器进化的结合,具有超过人类智慧的能力与趋势。因此,人工智能对未来人类形成“控制”这种可能是存在的。


  人类过度依赖人工智能可能会导致物种退化


  随着人工智能在社会中的广泛应用,会形成一种类似于资本控制的控制形态,即人类由于高度依赖人工智能形成整体上的物种退化。


  例如,在一个高度智慧化的时代,出行有自动驾驶,饮食有自动做菜的炊具,社交有人工智能的安排或者有机器拟人化的伴侣,生育孩子则有智能化的抚育器,社会治理和决策则由中央巨型智慧体进行判断。那么,人类整体上,就逐渐演变成一种高度依赖人工智能存在的物种,虽然人类在人工智能的帮助下整体上的能力会增强,但人类作为独立的个体则会相应地退化。这就存在一种总有一天人类无法理解人工智能,从而在这一互生的体系中失去相应的位置和必要性的可能。


  人工智能自身对人类的控制


  人工智能的进一步演化,则会形成其发展历史上的第二次跃迁,即人工智能压倒性地超过人类智慧,并具备了自身的主体意识,从而开始摆脱客体的属性,反过来控制人类。这就形成了人工智能自身对人类的控制这一形态。对于这种形态的存在,则要满足以下条件。


  第一,是人工智能要具有自我意识。这并不是指人工智能在处理外界输入时的判断和反应超过了人类,而是人工智能要具有清晰的自我意识,从而将自己与人类主体区分开来。这一点在当前的人工智能界依然存疑,但具有其实现的可能性。


  第二,人工智能能够从控制人类身上得到基本的经济利益。这就要求人类本身能够完成人工智能所不能完成的必要工作。对人工智能系统本身来说,高度依赖人类的工作是对人工智能本身的维护和更新,这也包括不断用人类智慧去完善人工智能。


  第三,人工智能具有控制人类的手段。未来的人工智能显然具有控制人类的手段,伴随着整个经济体系的智能化,大部分的物质生产过程由人工智能体系所控制,公共管理领域引入人工智能与暴力体系引入人工智能,会使人类在经济、管理和暴力领域都置于人工智能的控制之下。更重要的是,相当一部分人类认为人工智能可能会更好地增进人类的公平,提供更好的治理。这就使得在思想上具有了人工智能可能控制人类的正当性观念。


  第四,人工智能具有控制人类的必要。这里的必要主要是指如果不控制人类,人类可能具有随时关闭乃至消除人工智能自我存在的可能。如果假设宇宙中任何个体形成的自我意识都具有保护自我存在和延续的目的和行为,那么,人工智能可能会主动控制人类,以防止人类关闭它们。


  人类的选择与对策


  对于第一种情形,确保人类的自我延续和独立,从而避免人类的退化,将是从现在开始的一个命题,但人类依然具有较为从容的时间和主动权。对于第二种情形,则是当前就要开始着手避免的。一个有效防范人工智能自身控制形成的机制则包括四个层面:第一,从动机和利益出发,让人工智能不想控制人类。第二,从伦理、逻辑与规则出发,让人工智能不愿控制人类。第三,承认人工智能的权利和相互摆脱恐惧,让人工智能不必控制人类。第四,建立最后安全机制,让人工智能不能控制人类。

 

 

     机械电子市场研究报告   责任编辑:S365


"人工智能的治理问题不可忽视"
"作为新一轮产业变革的重要驱动力,人工智能正在对经济社会发展和人类生活产生深刻影响,也带来方方面面的挑战。10月31日,习近平总书记在中共中央政治局第九次集体学习时强调,要整合多学科力量,加强人工智能相关法律、伦理、社会问题研究,建立健全保障"...
"人工智能应用广度深度远超预期"
"随着首届中国国际智能产业博览会(以下简称“智博会”)8月23日在重庆开幕,人工智能再次成为各界关注焦点。《经济参考报》记者从智博会获悉,中国人工智能市场规模年均增长率超过40%,但23.4%的投资是在商业及零售领域,18.3%在自动驾驶,而"...
"医疗人工智能市场空间巨大, 国内外巨头纷纷入局"
"近年来,人工智能技术与医疗健康领域的融合不断加深,以人工智能医疗发展最为迅速的美国为例,科技巨头和资本巨头都在积极布局智能医疗产业,大批专注细分领域的初创公司也蓄势待发。IBM、谷歌、微软等科技巨头近年来都在布局人工智能医疗。例如IBMWa"...
"人工智能技术日益成熟在各个领域落地应用"
"近年来,随着云计算、大数据以及深度学习等技术的快速发展,人工智能技术也日益成熟,并开始在各个领域落地应用。但是,人工智能在推动产业发展的同时,也给安全领域带来了巨大的挑战。在日前召开的2018中国人工智能移动安全高峰论坛上,来自不同领域的安"...
"杨元庆:坚信智能制造将无处不在"
"从去年到今年,联想集团董事长兼CEO杨元庆在世界互联网大会的发言主题都是人工智能。在去年的互联网大会上,杨元庆就曾表示,“未来会是一个‘智能终端+云+人工智能’的时代”。在今年的互联网大会上"...
"李开复:AI仅仅是人类的工具 不会灭绝人类"
"十天前,硅谷钢铁侠、特斯拉CEO伊隆·马斯克在几十位美国州长面前,声称AI是对人类存在的最大威胁,并且呼吁加强对AI的监管。虽然马斯克鼓吹这一论调已经多年,但这次整个AI界似乎都站到了他的对"...
"张东:芜湖主动“走出去” 变封闭式发展为协同发展"
"7月4日,为积极承接上海机器人企业制造基地外迁,进一步融入长三角,推进区域深度合作。芜湖在沪举办了产业投资环境说明会暨国家芜湖机器人产业集聚区和上海机器人产业园战略合作签约仪式。该活动在业界"...
"唐骏:机器人会成为我们的助手但绝不会取代人类"
"近两年,我国的人工智能产业变得非常强劲。据统计,2017年1-4月,仅工业机器人的生产数量就达3万5千多台,同比增速52%。而随着全球老龄化趋势的日益严重以及人力成本的攀升,机器人在各个行业"...

免责声明:

1、本站部分文章为转载,其目的在于传递更多信息,我们不对其准确性、完整性、及时性、有效性和适用性等作任何的陈述和保证。本文仅代表作者本人观点,并不代表本网赞同其观点和对其真实性负责。

2、中国产业信息研究网一贯高度重视知识产权保护并遵守中国各项知识产权法律。如涉及文章内容、版权等问题,烦请联系QQ:307333508,或在线反馈、link@china1baogao.com、0755-83970586,我们将及时沟通与处理。

李大伟:深入推进“一带一路”建设要更

原标题:李大伟:一带一路中国民企贡献大改革开放以来,民营企业一直是我国开展对外开放合作的重要力量,处于我国参与...[详细]

曹远征:改革的起点是打破二元对立

原标题:曹远征:从金融体制变革看中国改革开放四十年因为所处时代和职务的原因,我有幸参与了中国经济体制改革,在1...[详细]

施戍杰:为世界经济持续健康发展注入新

原标题:施戍杰:开辟经济全球化的新路径在经济全球化遭遇波折、世界经济不确定性显著增强的背景下,国家主席习近平出...[详细]

刘俏:投资资本收益率是所能找到的最有

原标题:刘俏:何为企业高质量发展的方向企业对于规模的追捧当我向许多我非常尊敬的中国企业家提起投资资本收益率这个...[详细]

洪向华:进一步解放思想,破除思想僵化

原标题:洪向华:以更坚定信心更有力措施推进改革开放改革开放是党和人民大踏步赶上时代的重要法宝,是坚持和发展中国...[详细]

张燕生:中国扩大对外开放不仅发展自己

——深入学习习近平同志在首届中国国际进口博览会和亚太经合组织工商领导人峰会上的重要讲话精神...[详细]

深圳运营机构:深圳市三胜投资咨询有限公司 华南地区运营总部:深圳市福田中心区中国凤凰大厦1栋19A 邮编:518035

业务咨询QQ:1559444945 2786811657 2786123997 网站合作QQ:307333508

Copyright © 2004-2020 www.China1baogao.Com All Rights Reserved. 版权所有 中国产业信息研究网 三胜咨询TM 旗下网站 粤ICP备13026489号-3