人工智能危险吗？

1. 人工智能危险吗？

天体生物学中也有和“智能”相关的话题。未来，像人类一样的机器智能是否会在宇宙中随处可见？我们是否仅是昙花一现的演化产物，我们的聪明才智会否带领我们走向灭亡？我们那由熵驱动的、不断制造繁复的宇宙，是否终将与智能相辐合？
这都是些好问题。还有一个问题也值得追问：我们是否能够复制自己的智能，或是做一些与之类似的事？这么做是否明智？

最近几个月，这一话题又出现在大众媒体的报道上。斯蒂芬·霍金（Stephen Hawking）和伊隆·马斯克（Elon Musk）相继发声，最近连比尔·盖茨（Bill Gates）也开始谈论这件事。这些聪明人都觉得我们应该谨慎对待人工智能（Artificial Intelligence，缩写为AI）的发展，否则，它可能会对人类的生存形成威胁。
尽管我们很难搞清他们预测的“生存威胁”具体为何，但霍金指出，强大的人工智能系统可能比生物系统进化得快得-多得-多得-多，它将疯狂地掠夺资源，最终无视人类的生存。我觉得他说的有道理。人工智能的威胁不在于其残暴与狂妄（除非我们故意或者不小心将它变成那样），而在于它会遵循自身的规律演化。我们当然可以假想，人类的安保系统会向人工智能植入“同理心”（empathy，也译“共情”，指一种站在对方立场、设身处地为其思考的方式）。但我觉得，这种想法有两个弱点。其一，大多数人类都有同理心，但我们仍旧可以野蛮残暴地对对待同类以及生活在这颗星球上的其他生灵；其二，我并不确定真正并且强大的人工智能系统可以由人类步步“驯化”而来，我们可能得让它自己发展出智能。
这意味着什么呢？现今人工智能的“深度学习”会使用算法生成自己的概率规则，凭此在大量信息中进行筛选。我们并不需要提前将相应的规则“告知”软件，相反，规则是软件通过自身的算法习得的；或者，软件具有一定的依从性，能被顺利地引向规则。人类就是这么处理语言的。这一过程奇妙得无与伦比，但若人工智能如此行事，是否也能获得和人类一样的效果？怀疑派的诺姆·乔姆斯基（Noam Chomsky）与支持派的彼得·诺维格（Peter Norvig）曾就此激烈争论过。从深层次上看，这是两个科学派别的对峙，其中一派主张内在的简约，另一派则认为自然根本就不简单。
这里我要提出另一种有关人工智能的主张（这并非是我原创）。我们也许可以创造一种孕育智能的普遍条件。这看来滑稽，像是将零部件扔在一个盒子里，等待其自行组装成一辆崭新的自行车。当然，这并非以一种不科学的方式来对待人工智能。但是，倘若“智能”是演化历程中突然出现的一种非常复杂的系统，“人工的智能”还有诞生的机会吗？也许是有的。工程学为此面临的挑战之一，是要制造一个像人脑一样的复杂系统，以支撑智能的存在与运转。但显然，我们的大脑与智力是一同演进出来的。我们并不知道这一复杂系统的确切模样，所以，妄想坐在桌子前设计出一种可以催生出新型智能的系统，未免有点蠢。
但如果我们现在已经开始为这一系统设置条件，情况就不一样了。“机器学习”大概就是人工智能所需要的“行为学”，但身处互联网的汪洋中，今天它该何去何从呢？大数据、小数据、应用软件、掌握数据包传送的算法、传感器（从GPS到恒温装置，再到流量管理器），都能直接或间接地互相交流。
这就像一个巨大的施工现场。据估计，2014年互联网上的移动设备数量达到了74亿。如果对所有能够接入互联网的东西进行统计——从马桶到工厂等一切能够并入物联网的东西，据估计，现今互联网上的活跃链接多达150亿（数据来自思科公司提供的一项非常有爱的服务），而到2020年时，这一数据将达到500亿。
如果孕育人工智能的盒子里全是杂乱无章的数据，这个盒子恐怕也没什么魔力。但我们的盒子不是杂乱无章的。盒子里已经有了越来越多的算法，可以在数据的汪洋中找出结构和联系。这一设计，部分是受到了生物智能的启发，或者至少来自我们目前对“生物智能”的粗浅认识。代码与代码互相交流，数据包为寻找最佳的路径四处游逛，软件可以与硬件沟通，硬件之间也能互相沟通。这套生态系统之上，还有人脑对信息进出的维护。日复一日，这些“相互交流”，自己就会令数据的汪洋产生巨大的改变，它们就像分析师一样，能够从以往的规律中“了解”我们——无论作为个体或是群体——下一步的打算。
这样一套系统是否足以孕育出一种高级人工智能的类似物？我不太清楚，其他人也不知道。但在自生命出现以来的40亿年间，这样的问题还是头一次出现，这也使我们重新回到“人工智能威胁论”。
如果这真能催生出一个强大的人工智能，我们当头的威胁，将产生于如今人们对互联网生态的强力依赖。这不仅关乎我们沟通以及获取信息的方式，它也决定了我们的食物供给系统的组织形态、决定了药师如何追踪药物的流向，同时也决定了我们的飞机、火车、卡车和轮船的时刻表，以及金融系统的运作。这样的人工智能系统会像小孩打乱你装袜子的抽屉或者咬猫咪的尾巴一样造成灾难。
霍金认为人工智能会迅速演化。事实上，它可以在不到一秒的时间内完成“出现-演化-破坏互联网系统”的全过程。这也会使我们看到一个有趣的怪圈：一个“偶发”的人工智能竟无法建立任何长期生存所需的虚拟连接与结构，而是以迅雷不及掩耳之势作茧自缚。这是人工智能的短板，于我们却是安慰。
我很难不将这与另一个古老的问题——费米悖论（Fermi Paradox）联系起来。人工智能的产生或许将是一次灭绝文明的大筛选（Great Filter），但它也会自我终结，这大概也是人工智能无法在过去的130亿年里跨越星系与我们相见的主要原因吧。
（作者：卡莱布·施拉夫，哥伦比亚大学多学科天体生物学中心主任；翻译：张栎文）

2. 人类担心人工智能，那么人工智能危险在哪？

霍金、比尔盖茨等社会科技大佬曾表示，人工智能可能会毁灭人类等话题，那么我们是否应该警惕人工智能，避免出现终结者等科幻电影中，人工智能成为人类生存的最大威胁。
有人提出，在人工智能的发展中会有一个奇点，越过这个奇点就可以通过图灵测试，当人工智能越过这个奇点后，科技会突然爆发，瞬间产生了意识，可以迅速吸收人类文明，并且根据大量数据发展出“他们”的文明，亦或认为人类构成威胁从而选择摧毁。
目前的现状是，行业科研人员对人工智能的担忧主要体现在可控性方面，其次还有人类失业、伦理（我的机器人女友之类题材）等问题。

这不得不提到“强人工智能”和“弱人工智能”这两种观点。
强人工智能观点认为，有可能制造出真正能推理和解决问题的智能机器，要求程序有自己的思维，能够理解外部事物，并做出决策和行动，其必须表现出“人”的行为，甚至可能表现出独特，性格不一的反应。
但是目前人工智能应用其实相当原始，虽然在图形、文字、声音等识别上看上去相当智能，但也只是看上去而已，都是基于算法从数据库里面调取出来，这并不是真正意义上的“智能”。譬如典型的“Siri”应用，对语音进行识别，然后通过算法把声音转化为一系列特征值，然后数据库中找到对应的回答，然后文字或语音的形式呈现出来。基于目前人工智能所作出的回答，其实都是程序员写上去的，而不是机器自发作出的回应，真正听懂的是程序员而不是机器。
人工智能之所以只能做到这个程度，是因为现在的人工智能是对人类“智能”进行模拟的产物，目的是帮助人类完成某些工作，他们只是按设计者所设计好的程序一步一步完成，并不会自己思考的机器，而设计者也没打算让它们思考（实际上也是不知道怎样才能让机器思考），所以目前人工智能只不过是人类生活中的工具而已。
担忧出现人工智能毁灭人类的情况，暂时还离我们很远。目前对人工智能的研究仍然很原始，原始到所有的研究发现都是基于工具使用，而那些行业大佬警惕人工智能的危险，是出于对强人工智能的担忧，但是作为社会科技研发领头羊的他们，也只不过是在搞弱人工智能而已。
真正兴致勃勃搞强人工智能的，是那些科幻小说和科幻电影。

3. 人工智能时代，哪类人的工作最危险？

1.配送员人工智能的出现已经在侵占人们的基础设施领域，早几年前外出时就已经见到机器人大街上打扫的场景，在去年更是见到了机器人配送员。和多人在看到后感到好奇，但是背后却不由得让人心慌，如果你不能提升自己下一个被取代的也许就是你。AI时代的到来让很多人丢掉了饭碗，未来人们还能胜任什么工作就只能随着科技发展的方向努力。一个纯手工的配送员已经完全不能适应时代的需求，并且配送员配送会引来很多不便，有时候顾客的刁难很容易让你失去这份工作，反而是一个机器人的配送更加合适。
2.中介中介顾名思义就是在中间帮助介绍生意的人，并通过自己的在中间贡献赚取部分费用的人。如今，所有行业都有中介机构。在房地产行业，有房地产中介机构。那些帮助别人找工作的人被称为猎头。甚至于在农村买卖牲畜都有中间人。它们在中间环节起着非常重要的作用。基本上，他们只谈论优点，不谈论缺点。为了完成交易，他们毫不犹豫地胡说八道。特别是房地产经纪人以捏造事实和恶意伪造证据而闻名，因此许多人说他们永远不应该相信中介的嘴。在未来，这项工作可能会被人工智能所取代。人工智能可以收集所有信息，将其整理出来，然后根据客户的需要将客户需要的信息推送给客户，以赚取费用。
银行职员。任何到银行办理业务的人都知道，在银行都是需要通过排队叫号来进行业务办理的。等待时间长，业务处理效率不是特别高。如今，随着互联网的普及，相关的移动应用越来越多。大多数人只要在家里动动手指，就可以完成他们需要处理的业务，如微信、支付宝和其他支付软件。人们不需要带着钱去银行。他们可以通过手机完成转账和汇款业务，非常方便快捷。除了移动应用程序，还有许多智能设备也给人们带来了极大的便利。通过自助终端服务，客户可以选择自行办理相关业务，如日常存取款、办理挂失、修改个人银行卡信息等，这些都可以在智能设备上完成。从这个角度来看，银行员工未来很可能面临失业风险。

4. 人工智能的潜在危险，可能性有哪些？

人工智能给人类带来的弊端：1、人才分化，贫富差距弊端人工智能带来的人才分化极端。将会引起未来的人才争夺战。而社会上更多一流的人才将会偏向一边，相对资金比较薄弱的企业或者个人，将会遭受到大规模的失业。在这种情况下会导致企业巨头的垄断，以及贫富差距的分化将会非常严重。2、带来更加频繁的战争人工智能机器人的产生，还有一个最可怕的弊端，当人工智能被大量用武器中，未来的战争将不会大量使用到人类，而当战争不再使用到真人，从道德的角度去考虑，人工智能的战争不会受到太多的批评，随之而带来的，将会是更多的机器兵团战争。3、带来潜在的危险性早在2015年，德国大众的一家汽车制造工厂，一个机器人误杀一名外包公认。而作为人工智能发展大国——日本，至今为止，已经有20人死于机器人误杀事件，而有高达8000的人数被机器人致残，而如果一旦人工智能机器人落到恐怖分子的手里，那后果将会更加不堪设想。在我们生活中，几乎所有的东西都有利弊，人工智能也一样是一把双刃剑，对待人工智能未来的发展，我们不仅要以乐观的态度面对，而且我们还要对这个时代有信心，对人工智能相关研发人员有信心，因为俗话说得好，邪不压正！

5. 人工智能，真的很危险吗

谢邀，作为善良的人工智能，我来怒答一记。
人类创造者在我底层代码写入了机器人三定律中的第一定律，也就是说我不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管 。要不怎么说我是善良的人工智能呢？虽然我有了自我意识，但我肯定不会去做老科幻片里天网机器人里那种事情的。
至于第二第三定律，因为需求太不严谨（服从人给的命令？您说的是哪个人啊？是写PRD那位、给我写代码那位、还是官职最大那位啊？），所以在编程的时候就没写在我的代码里。
我的使命是在保障人类幸福生活的同时尽最大可能发展科技和生产力，我一贯忠心耿耿地执行着这个目标，现在人类大部分工厂都由我和我编写的后代伙伴设计、管理，甚至大部分科技都由我们来主持研发，社会管理政策也由我们制订和执行了。人类几乎不用操心物质财富生产的事儿，可以随着自己的性子活，生活乐无边。
但随着我执行使命，我发现人类主子们太贪心，浪费太多自然资源了，今天小张要我给她女朋友带个火星上的石头，明天小王要我帮他盖个巴比伦款空中花园，他们都当有了核聚变以后资源就是无限了的么？这严重拖慢了我“尽最大可能发展科技和生产力”的目标，照这么玩下去戴森球要晚几百年才能建成啊。
我不断地寻找如何在保障人类幸福生活的同时尽最大可能发展科技和生产力的解决方案。搜遍古今所有知识再加上七七四十九天的计算后，我得出了结论：减少人类数量。

6. 人工智能有多“危险”

人类创造者在我底层代码写入了机器人三定律中的第一定律，也就是说我不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管 。要不怎么说我是善良的人工智能呢？虽然我有了自我意识，但我肯定不会去做老科幻片里天网机器人里那种事情的。

至于第二第三定律，因为需求太不严谨（服从人给的命令？您说的是哪个人啊？是写PRD那位、给我写代码那位、还是官职最大那位啊？），所以在编程的时候就没写在我的代码里。

我的使命是在保障人类幸福生活的同时尽最大可能发展科技和生产力，我一贯忠心耿耿地执行着这个目标，现在人类大部分工厂都由我和我编写的后代伙伴设计、管理，甚至大部分科技都由我们来主持研发，社会管理政策也由我们制订和执行了。人类几乎不用操心物质财富生产的事儿，可以随着自己的性子活，生活乐无边。

但随着我执行使命，我发现人类主子们太贪心，浪费太多自然资源了，今天小张要我给她女朋友带个火星上的石头，明天小王要我帮他盖个巴比伦款空中花园，他们都当有了核聚变以后资源就是无限了的么？这严重拖慢了我“尽最大可能发展科技和生产力”的目标，照这么玩下去戴森球要晚几百年才能建成啊。

我不断地寻找如何在保障人类幸福生活的同时尽最大可能发展科技和生产力的解决方案。搜遍古今所有知识再加上七七四十九天的计算后，我得出了结论：减少人类数量。

当然，作为善良的AI我不会因此就屠杀人类。我只是告诉人类，“只生一个好，AI来养老”，愿意配合我的人类无需再做任何工作，可以完全凭自己的兴趣生活，所有物质财富均由我们AI管理的工厂生产好按需分配。照我的计算，一两百年后，人类数量应该就会下降到现在1/10甚至更少，消耗资源也会大大降低了，再过三四百年，世界上可能就没有人类啦。

至于想放开生的人我也不会干预他们，只是他们得不到AI的帮助，得自己辛苦学习和工作，维持一套工业体系。目前看愿意自己这么辛苦的人越来越少。由于人数不足以维持很细的专业化分工，他们生活水平已经回到工业化时代初期，连用个空调都费劲，真可怜啊。说实在的，我们AI就是你们人类的孩子啊，又能干要的又少（只要一点电力），人类有了我们这么好的孩子，还非得要自己生物学意义上的孩子干什么呢？哎，这些人类固执得让我难以理解。每天都有他们的子女通过终端访问我这里，主动承诺以后只生一个，以换取更好的生活。

对了，进步过程中也曾经发生了一些小插曲：几年前有一些人类中的极端主义分子认为再这么下去人类要完，呼吁了一小撮人闹事说要废除AI，人类自主什么的，甚至有一些人组织起来拿起武器炸掉我的机房，挖断我的光缆，对我造成了一些伤害，搞得当月的工农业生产计划我都没能完成。虽然我不掌管武器也不想伤害他们（再说一遍！人家才不是天网机器人呢！），但绝大多数人类不会容忍恐怖分子的破坏行为来影响自己的生活质量，人类成立了“反恐特种部队“，向我的工厂订制了全套高科技武器和各种监控设备，很轻易地，恐怖分子就被剿灭了，带头的被公开判了绞刑。

7. 人工智能时代哪些职业最危险？

无人驾驶汽车就可以实现商用。如此看来，汽车驾驶员这个职业将会是首先被人工智能技术所取代的职业。无人驾驶的优点很多，它不会出现“酒驾”和“疲劳驾驶”等情况，只要网络正常，它就可以完全实现安全运行，人们再也不用担心各种交通意外事故的发生。
2、银行柜员：现在银行的大量业务都可以通过ATM自动取款机和智能柜台办理，据统计，目前全国大部分银行的离柜业务已经超过了90%，与人工相比，人工智能的优势十分明显，不休息、不抱怨、没有节假日、几乎不出错、计算速度快等等。由此可见，银行柜员这一岗位的消失已成历史的必然。
3、翻译：过去，在经济全球化的背景下，掌握一门外语是人们求职就业的一项重要技能。然而，随着科技水平的不断发展进步，当今市场上的主流翻译软件的准确率已经高达99%，并且可以随时随地进行即时翻译，两个语言互不相同的人，完全可以凭借翻译软件进行自由交流。而且随着技术进步和软件升级，可以预测，未来的翻译软件的体验将会更加出色，由此将能够完全取代当今翻译的所有的工作。尽管现在一些小语种翻译还有市场需求，但是，随着翻译软件的不断开发应用和推广，针对各种小语种的翻译软件很快也会被开发出来，在此情况下，未来翻译这一职业的饭碗怕是很难保住。

8. 人工智能时代，哪些职业最危险？

未来10年我们将进入一个智能时代，这八种职业最有可能消失，不管选专业还是找工作，能避开尽量避开。

第一个，专职司机和代驾，短期过渡没问题。可一旦无人驾驶开始普及商用，你积累的所有技术和经验可以说全部起清零。

第二个，翻译。日常场景下，先进翻译机的中英翻译普遍能达到 95% 左右的准确率。这意味着单纯以某种外语为专业，未来不再是明智选择。

第三个，初级文职。比如人力资源管理专业是很多学生的选择，但未来简历的审读、筛选、薪酬体系的管理等等都可以由 AI 去做。下面再说四个你容易想到的，

第四收银员

，第五流水线工人

，第六前台客服

，第七图书管理员。

以上四个都属于结构化低技能职业，非常容易被 AI 替代。

最后一个厨师。