李峥:美国对AI治理的迟疑正带来风险

2023-10-10 03:02:01 来源:网络

美国国家安全局日前宣布成立人工智能(AI)安全中心,负责监督美国国防和情报部门人工智能能力的开发和整合。然而,在人工智能治理领域,美国是明显落后的,已经是人工智能全球治理的一块短板。

近期,美国国会举行了多场与人工智能立法有关的讨论。其中一场听证会中,谷歌、微软、特斯拉、OpenAI等科技巨头先后发表了看法,呼吁美国政府和立法机构尽快采取行动,解决人工智能治理中的原则性问题。

在今年的联合国大会上,人工智能治理是一个新兴的热门议题。英国副首相道登称,世界必须通过人工智能的压力测试,理解、治理、利用人工智能的潜力并遏制它的风险。不久前,联合国安理会首次举行人工智能问题会议,探讨人工智能治理的基本原则。人工智能给各国带来的风险和挑战也日渐突出。美国媒体指出,人工智能与新型诈骗的结合将成为各国面临的长期社会风险。美国联邦调查局称,人工智能将为犯罪组织提供可定制、可扩展的新型工具。

面对这些风险,各国已纷纷展开行动。6月,欧盟推出全球首部人工智能法案,对生成式人工智能企业提出更高的透明度要求。该法案要求此类企业在人工智能生成内容上增加标记,与训练内容提供者分享利润,严格限制算法被运用于非法领域和传播谣言。该立法体现出欧盟对于人工智能强监管的鲜明立场,也给其他国家提供了借鉴。7月,中国颁布《生成式人工智能服务管理暂行办法》,采取类似的标准,提出分类分级监管的治理原则。

与之相对,美国的相关立法进程显著滞后,仍未明确监管的基本取向。这让本来受益于这一宽松局面的美国科技企业也心无定数,担心监管的突然发力。华盛顿至今犹豫不决源于以下原因:

其一,美国不愿放弃在人工智能上的有利地位。在决策者看来,人工智能不仅是一种前沿技术,而且是决定美国能否在下一轮全球科技竞争中胜出的战略性技术之一。相比治理风险,美国更加关心自己在国际竞争和合作中的位置。竞争方面,美国不愿在确保自身技术领先地位前就严格限制该技术的发展。合作方面,各国在平衡人工智能的发展和安全中采取了不同路线,欧洲强调安全大于发展,印度、日本等则认为发展大于安全,不愿用立法约束产业进步。美国希望尽可能延后选边站队的决策,从而在塑造国际规则时预留更多谈判空间。

其二,政治极化让美国社会难以对人工智能风险形成共识。如今,政治极化在美国已经无处不在,深刻渗透到每个社会议题中。在人工智能治理上,两党虽然都认为风险客观存在,但治理方式却南辕北辙。民主党认为应当重点管控人工智能在造假、传谣领域的应用,尤其是强化社交媒体等中间传播渠道的责任。共和党则认为此类治理措施存在政治动机,会对共和党参选人不利。

其三,美国的政治制度不利于管控此类前沿技术。从以往类似管控经验看,即便政府和国会达成共识,美国仍然很难管住此类技术的风险源头。美国联邦和州拥有不同的监管机构,各州立法不同,给不法者寻找监管盲区套利带来空间。新一代人工智能技术具有更强的去中心化特征,技术研发已深入社会基层,显著加大了美国的监管难度。从这一角度看,可被恶意使用的人工智能技术更类似于枪支和大麻,未来很可能在美国泛滥成灾。

美国的迟疑正在给全球带来风险。作为全球人工智能技术研发最为领先的国家,美国的监管失位意味着人工智能可能变成一个缺乏教育和方向的“熊孩子”。美国的迟疑也拖慢了全球人工智能治理的议程,让越来越多的国家可能加入算法“军备竞赛”,延后其立法和治理进度。与其他技术不同,人工智能具有主动利用监管空白加快演化的特征,监管缺位的国家很可能成为危险人工智能技术的“营养液”,促使此类技术快速发展,进而对他国带来麻烦。

在人工智能治理上,各国都醒了但美国还在做梦。现在,各国应该把美国叫醒了。中美人工智能对话或许将成为美国的“闹铃”。作为在人工智能治理上起步更早的国家,中国可以让美国更清醒地认识到人工智能滥用对国际和平和各国民众带来的风险,探索管控人工智能跨境风险的路径。中美也可以借助对话共同推动全球人工智能的治理议程,探索与应对气候变化类似的时间表和路线图,并以此带动更多国家加入和参与,避免人工智能滥用成为全球下一个不可控的重大风险。(作者是中国现代国际关系研究院美国研究所所长助理)

,腾讯科技 李峥:美国对AI治理的迟疑正带来风险

相关:

美国又有新招针对中国芯片?但这次仿佛是来搞笑的…在技术封锁这个大家已经看腻了的话题上,美国的骚操作又来了。不过这次和以往不同,属于纯乐子。就在昨天,有一帮国会议员开始向美国商务部施加压力,希望限制中美企业之间在 RISC-V 芯片架构上的合作。看完这个消息我直接笑到停不下来,这帮国会议员真的是光屁股推磨,转着圈的丢人。别的说什么我都信,但是限制 RISC-V ?那你还不如信我是秦始皇。。。接下来我们就给大家盘盘,为什么说 “ 限制 RISC-V” 的想法很奇葩..

Meta遭举牌抗议,开放模型可能导致AI失控?一直以来,人们在 AI 领域的开源与闭源选择上存在着分歧,而在大模型时代,开源这股强大的力量已经悄然崛起。根据此前谷歌泄露的一份内部文件,围绕 Meta 的 LLaMA 等开源模型,整个社区正在迅速构建与 OpenAI、谷歌大模型能力类似的模型。毋庸置疑,Meta 是开源世界的绝对核心,持续作出开源努力,如最近发布 Llama 2。然而木秀于林风必摧之,最近 Meta 因为开源陷入了“麻烦”。在 Meta 的旧金山办公室外,一群..

东北喜剧,成为电子咸菜图片来源@视觉中国作者 | 咸鱼鱼,监制 | 吴怼怼暑期档古偶没卷出什么花头,但金九银十却让古装喜剧刷足了存在。8月赵本山携《鹊刀门传奇》再战江湖,9月《我有一个朋友》以豆瓣8.6贡献惊喜,及至10月,还有大娘子带着四个女儿上演《兰闺喜事》。三部作品同台竞技,不仅意味着,本山大叔,被全面挑战,也是东北喜剧人的一次期中小考。东北人的喜剧天赋,是大众公认的。在《鹊刀门传奇》流出的一段拍摄花絮里,赵本山曾给徒弟..

奔驰联手蔚来,到底有没有未来?7 月底,大众耗资 7 亿(约合人民币 50 亿元)收购小鹏汽车 4.99% 股份,并正式达成技术框架协议,未来双方将会在小鹏 G9 的基础上,联手推出两款 B 级纯电车型。大众与小鹏联姻的消息,就像是一颗「重磅炸弹」,激荡起新势力车圈一阵涟漪。从前,只听说过「以空间换时间」、「用重资将技术请进来」,像小鹏这样直接的技术输出,在国内汽车工业史中实在不多见。不过,「两极反转」的爽文故事有机会续写下去,传统豪华..

从肖战到易烊千玺,倍轻松能变轻松吗?作者 | 黄燕华 编辑 | 蛋总美编 | 倩倩 审核 | 颂文尚未消除外界对其“科技含量低”这一质疑的倍轻松,近期高调官宣了新任“顶流”代言人。9月19日,倍轻松官宣了国内“00后”明星易烊千玺为其全球品牌代言人,引发业内关注。此前,其代言人由“90后”顶流明星肖战担任。有着科创板“智能按摩设备第一股”之称的倍轻松,自2021年7月15日上市以来,伴随着外界对其是否符合科创板要求的质疑声,一路在营销推广上高举高打..

iPhone 15 Pro迎来超快破发,苹果栽倒在颜色上?蓝色,「钛」难卖了!在今年苹果发布会上,苹果公司全球营销高级副总裁格雷格·乔斯维亚克向我们介绍了iPhone 15 Pro/Max在设计方面最大的变化——钛金属,伴随新材质的加入,这代iPhone也在配色上拥有了新的策略。为了突出「钛金属」在设计部分的重要性,iPhone 15 Pro系列的颜色被命名为白色钛金属、黑色钛金属、原色钛金属和蓝色钛金属。(图源:Apple)原色、蓝色,作为本代iPhone最「特别」的配色,理应像前代「暗紫色..

巴以冲突,意味着乱纪元还是恒纪元的的到来?“乱纪元和恒纪元”,这个说法出自《三体》的设定,小说里面,三体星球因为有三颗太阳所以他们的生存状态非常恶劣。太阳是一个生命星球维系生命,稳定进化的必要核心因素,但是当天上有三个太阳。而且不断的围绕三体星运转,那么恒星的引力就会对行星上的气候和生存状态造成非常大的负反馈,而且极其不稳定。所以三体星人,把太阳有规律的东边升起西边落下的年份叫恒纪元,太阳无规律运动的时候,叫乱纪元。这个乱纪元的单位和持..

巴以冲突,为何再爆发?巴以冲突愈演愈烈。10月7日上午,巴勒斯坦武装组织哈马斯突然对以色列发动了规模空前的袭击,武装分子发射数千枚火箭弹,并且挟持了数量不少的人质,包括部分女性。由于以色列情报部门反应不足,此次攻击导致至少100名以色列人死亡,至少1400人受伤。这是巴以多年来最大规模的冲突,且发生在“赎罪日战争”(Yom Kippur War)又称第四次中东战争的五十周年。以色列总理本雅明·内塔尼亚胡宣布以色列处于“战争状态”。有分析认..

日本拟在经济对策中加入促进AI内容,涉及对基础模型开发等日本首相岸田文雄 新华社 资料图日本计划出台相应政策支持人工智能。当地时间10月9日,日本首相岸田文雄在互联网治理论坛(Internet Governance Forum, IGF)上表示,将在最早10月内制定的经济对策中加入促进AI(人工智能)开发和应用的相关内容,并将在年内发布由七国集团(G7)讨论制定的、面向AI开发者的国际指导方针。岸田文雄表示,在经济对策中,将会通过“对计算资源进行整备、对基础模型的开发进行支援,以及促进AI..

中东“火药桶”再燃,国际油价跳涨,石油危机会重演吗?地缘局势升级、避险情绪升温,周一黄金原油大幅高开。以色列与巴勒斯坦10月7日爆发新一轮军事冲突,巴勒斯坦伊斯兰抵抗运动(哈马斯)当天清晨从加沙地带向以色列发起近年来最大规模火箭弹袭击,以军则对加沙地带展开多轮空袭。冲突仍在持续,迄今已致双方超1100人死亡、超过4000人受伤。受此影响,在中国国庆长假期间大幅下挫的国际油价迎来“血色助攻”,两大国际原油期货一度涨超5%,随后回落。截至发稿,WTI原油上涨2.77%,..