本文为创新工场董事长兼首席执行官李开复博士在本周于瑞士召开的2022年达沃斯世界经济论坛的专栏文章，经授权编译。
图片来源： Unsplash/Gabriella Clare Marino
负责任地应用机器人和机器学习可以挽救更多的生命，其利大于弊。
自主机器人和自主决策的确可能造成致命错误。
因机器人错误而造成的死亡，将造成道德两难的新时代“电车难题”。
如果社会接受机器学习，并竭力以负责任的态度导入机器人技术，更多生命将会因此得到拯救。
在未来 20 年内，随着机器人技术的进步，自动驾驶汽车、工业机器人和医用机器人将拥有更强的能力、更高的自主性，并得到更为广泛的应用。不可避免，这些自主机器人可能会犯下决策方面的错误，造成数百上千人死亡。但如果人类参与其中，这种灾难是可以避免的。
这样的未来固然可怕，不过一旦人类社会能负责任地运用机器人技术，获救的生命将多于造成的死亡。
机器学习的过程
机器人并非经由人类“编程”而模仿人类的决策过程。它们从大数据中学习，利用从数据中推导出的复杂数学公式，执行诸如“识别红绿灯”之类的任务。机器学习过程需要的数据量远远超过人类所需。然而，一旦经过训练，机器人在任何特定任务中的表现都将优于人类。借由机器学习，人工智能和机器人的性能在过去五年里已经获得了极大的提升。
我在这篇文章提出的观点适用医疗健康、制造业及其他正在快速实现自动化的行业。先以自动驾驶为例，一位经验丰富的人类司机，一生中可能有几十万英里的驾驶经验，而谷歌旗下的自动驾驶汽车公司Waymo，仅在2021年一年间就完成230万英里的上路测试里程，其背后的AI技术通过数据学习了每一辆车的驾驶经验，而且这些自动驾驶车辆永不疲劳，也不像健忘的人类司机，可能忘记他们曾经犯的错误。
特斯拉公司的“智能召唤”功能首次推出后，汽车可以在没有车主操作的情况下，离开停车位并绕开障碍物。一开始许多用户抱怨这个新功能表现得不尽如人意，但在短短几周内，特斯拉公司便收集了早期用户的数据，重新训练了新功能背后的机器学习模型。从此，“智能召唤”显著获得改进，成为了特斯拉新车的一大关键竞争优势。
自主机器人可以挽救生命
可供学习的数据日益增加，人工智能的能力也随之快速提升，AI 变得更精准，适应性更强，也更安全。随着越来越多的机器人进入主流日常应用，其应用领域越来越广，标志着功能性机器人技术正得到逐步普及。自动驾驶将从“握住方向盘”到“放开方向盘”，进而发展到“无需监视”，乃至“无需关注”，并最终进化到“无方向盘”的全自动状态。
中国的自动驾驶企业文远知行便是一个很好的范例。这家公司已在中国数个城市部署了无人小巴和无人环卫车。相较于无人驾驶出租车，它们在运行环境上受到了更大的限制，但与人类司机相比，安全性有了大幅提高。这些车辆在特定环境下运行并收集大量数据后，最终将摆脱这些初期上路的限制条件。
2021年，文远知行WeRide无人小巴在广州开展测试。图片来源： 文远知行
在机器人技术从简单应用通往复杂场景的发展过程中，我们将获得更多数据，从而提升其性能和安全性。举例来说，在未来十年里，通过减少人为失误（这是道路事故最常见的原因），自动驾驶汽车仅在英国就可以防止47000起严重交通事故发生，挽救3900人的生命。兰德公司的研究发现，即使自动驾驶的安全性仅比人类驾驶高 10%，换算过来也能够拯救许多宝贵的生命。
道德困境
对于机器人的大规模应用，大部分人仍然表现出极大的担忧，包括对机器错误导致人类丧命的道德争议。古典的“电车难题”是指一种道德困境，经典假设是旁观者可以通过切换失控电车的轨道，虽然会因此撞死一个人，却能拯救另外五个人。这一难题说明了攸关“谁生谁死“的选择，本质上是一种道德判断，这样的决策不应该交给无情的机器。
然而，机器人和人类的感知方式不同，出现的错误类型自然也就不同，这使得“道德困境”进一步加剧。举例来说，机器人反应迅捷，注意力始终集中，但可能会误判障碍物，例如优步的无人驾驶汽车就曾把推着自行车过马路的行人误判为汽车，并因此预判它比自身行进的速度更快。
人类失误和机器失误之间的差异，使得公众更加难以接受由机器人导致的死亡，如果他们曾经听闻了类似 2018 年美国凤凰城车祸事件后的媒体渲染报道，一定更难释怀。一旦各种媒体持续以谴责性的大标题，有失偏颇地放大抨击每桩自动驾驶致死的案例，那么人们很可能会对自动驾驶系统彻底失去信心，即便这项技术最终有可能拯救数百万人的生命。
若是人类司机造成他人死亡，他们将面临法律的判决并承担相应后果。但“人工智能的黑匣子”无法以人类可理解的词句，或者在法律和道德上正当合理的人类语言，向法官和公众解释肇事决策的原由。
另一点需要商榷的是问责问题。在凤凰城的那场事故中，汽车里的人类司机被指控犯有过失杀人罪。但是，在这一案件中，汽车制造商、人工智能算法供应商或工程师应该为此负责并承担一定的法律责任吗？只有问责归属明确，我们才能有共识和准则的基础来建立一个完善的自动驾驶生态系统。
人工智能和机器学习时代的“电车难题”
既然机器人技术可以挽救无数生命，那么只要证明它比人类略胜一筹，我们就有充分的理由大举推广自动化技术。我认为，我们应把握一切机会推出对人类有助益的机器人自动化工具，它们初期应在受限制的特定环境中使用，然后再逐步规模化采用，最终获得更多自主权及更广泛的推动。通过这种循序渐进的方式，我们一方面可以收集更多的数据，提升机器人的性能，另一方面能够最大限度地降低危及人类生命的事故。
考虑到可能出现的异议，我们需要共同努力，让大众更了解机器人技术带来的短期阵痛和长期效益。只有这样，我们才能在拥抱自动化技术的进程中，逐渐培养出负责任和严谨的态度，让机器人更好地为人类社会服务。
本文经WEF世界经济论坛授权进行中文编译，原文链接：
,李开复：品牌加盟连锁 关于人工智能的“电车难题”的崭新思虑相关：
差人下班吃着雪糕 随手抓住1名嫌疑人5月23日，湖北襄阳派出所一位民警与另一位辅警下班后在路上买了根雪糕边吃边走与一名骑三轮的男子擦肩而过时民警觉得男子很像近日追踪的盗窃电瓶嫌疑人便立刻追上将其拦截经核查该男子确实为最近正在追捕的盗窃嫌疑人自动播放网友：火眼金睛！
上海男人私行安设多名抗原阳性工人 造成疫情传布5月26日，上海市公安局发布警情通报：近日，浦东公安分局查处一起妨害传染病防治案，犯罪嫌疑人刘某某（男，34岁）已被警方依法采取刑事强制措施。经查，某建筑公司项目经理刘某某在获悉其负责的曹路地区某工地多名工人自测新冠抗原阳性后，不仅未向有关部门上报，而且擅自将相关人员安置在工地内不具备隔离条件的临时宿合，并不再安排上述人员参加核酸检测。5月15日，防疫部门发现该工地异常情况后，立即开展排查，发现工地内多..
王毅与所罗门群岛代总督接见会面：等候中所关系后发先至当地时间2022年5月26日，所罗门群岛代总督奥蒂在霍尼亚拉总督府会见正在访所的国务委员兼外长王毅。奥蒂说，所罗门群岛政府和人民都高度重视对华关系。所中建交以来，两国关系发展取得长足进展，中国代表团此访将为所中合作带来新亮点、注入新动力。感谢中方为所方基础设施建设和抗击疫情提供的宝贵支持，中方援建的太平洋运动会体育馆将助力所罗门群岛首次承办大型国际赛事，所运动健儿也第一次有机会在本国土地上与各国运动员..
普京签定法令简化乌两地居平易近插手俄国籍轨范 乌方回应俄罗斯总统普京当地时间5月25日，俄罗斯总统普京签署了一项关于简化乌克兰扎波罗热州和赫尔松州两地居民获得俄罗斯公民身份程序的法令，该法令已于当日生效。据法新社5月25日报道，目前整个赫尔松州和扎波罗热州部分地区由俄军控制。赫尔松州军民政府副主席基里尔·斯特列穆索夫（Kirill Stremousov）称：“在相关程序简化后，我们能清楚地看到，俄罗斯将永远存在于赫尔松州。”斯特列穆索夫透露，申请获得俄公民身份者不需要有..
赵倬霆：演员有时没平安感，但我想坚持演下去 热播剧《且试天下》迎来会员收官，剧中饰演墨羽骑大将军任穿云的演员是北京电影学院毕业生赵倬霆。任穿云的戏份并非贯穿始终，但却收获了很多观众的好评，赵倬霆说自己经常会开着弹幕去追剧，他发现观众的角度总是很新奇，“比如我去买马的那场戏，我看好多人都在换算一匹马是多少钱，大家的脑洞都很大。” 《且试天下》合作杨洋感叹其认真 在看《且试天下》小说时，赵倬霆就觉得剧中的任穿云很适合自己，想争取出演..
青海省首个“15分钟核酸检测圈”在湟源建成 中新网西宁5月26日电(祁增蓓)26日，记者从西宁市湟源县委宣传部获悉，25日晚，历时30多个小时的长途运输，满载江苏省南京市六合区深切情谊的首批移动式“核酸采样小屋”顺利抵达湟源县，并连夜安装布置在该县各乡镇。至此，青海省首个“15分钟核酸检测圈”在西宁市湟源县建成。 5月6日，西宁市湟源县发现1名新冠肺炎病毒阳性感染者。此后该县开展了多轮全员核酸检测。 据介绍，这批“核酸采样小屋”共计40座，价..
北京互联网法院：充值打赏类案件占涉未成年人收集纠缠75% 充值打赏类占比涉未成年人网络纠纷75%。5月26日，北京互联网法院发布未成年人网络司法保护情况报告。 报告显示，自2018年9月成立以来，北京互联网法院共受理涉未成年人网络纠纷76件。从纠纷类型来看，包括网络服务合同纠纷60件，占比79.0%；网络侵权纠纷8件，占比10.5%，信息网络买卖合同纠纷8件，占比10.5%，纠纷类型集中度较高。从主体看，未成年人作为原告的案件数量为67件，未成年人为被告的案件数量为9件。从年龄..
桂林警方成功侦破一路合同诈骗案 涉案价值近万万元 中新网桂林5月26日电(黄炎 唐梦宪)广西桂林市公安局象山分局5月26日向媒体通报，象山警方5月22日成功侦破“5.19”合同诈骗案，先后抓获犯罪嫌疑人2名，追回奔驰、宝马、奥迪、大众、丰田等品牌轿车、越野车22辆，最大程度为企业追赃挽损。 5月19日，象山公安分局民警在企业挂钩包联工作走访中了解到，两名男子以跑业务需要长期用车为名，先后在象山辖区某汽车租赁公司租赁了33辆奔驰、宝马、奥迪、大众、丰田等品牌..
暴雨持续 福建现超借鉴小洪水 中新网福州5月26日电 (记者 龙敏)连日来，福建省中部地区出现暴雨，局部大暴雨。福建省防汛办26日通报称，泉州德化县、福州永泰县、三明大田县启动防暴雨Ⅳ级响应；全省共下沉干部728人，转移人员154人。 受长时间降雨影响，泉州德化、福州永泰等地部分道路出现溜方。截至目前，福建全省未接到人员伤亡及其他重大灾情报告。 5月25日6时～26日6时统计，福建有18个县的73个乡镇超过50毫米，其中6个县的12个乡镇超..
蜀这五年：筑牢长江黄河上游生态樊篱 书写绿色成长答卷 中新网成都5月26日电 (记者 贺劭清 张浪)“我们从今年3月开始每天监测鱼群产卵量，数量比禁渔之前增加300%，感觉这几年的一切努力都值了。”26日清晨，四川宜宾长江鲟协助巡护队队长周涛与队友驾驶着冲锋舟，来到长江江中对鱼卵采集网进行检查。 作为长江、黄河上游重要生态屏障，四川96.6%的水系属于长江水系，境内1.87万平方公里属于黄河流域。为深入打好碧水保卫战，确保一江清水永续东流，2020年9月底，四川省长..