毋庸置疑，Meta 是开源世界的绝对核心，持续作出开源努力，如最近发布 Llama 2。然而木秀于林风必摧之，最近 Meta 因为开源陷入了“麻烦”。
在 Meta 的旧金山办公室外，一群手举标语的抗议者聚集在一起，抗议 Meta 公开发布 AI 模型的策略，并声称这些发布的模型造成了潜在不安全技术的“不可逆转的扩散”。甚至有抗议者将 Meta 发布的大模型比作“大规模杀伤性武器”。
这些抗议者自称为“concerned citizens”（关心某事的公民），由 Holly Elmore 领导。根据领英信息，她是 AI Pause（中止 AI）运动的独立倡导者。
她指出，如果一个模型被证明不安全，则可以关闭 API，比如谷歌和 OpenAI 等只允许用户通过 API 访问的大模型。
与之相反，Meta 的 LLaMA 系列开源模型向公众提供了模型权重，使得任何拥有合适硬件和专业知识的人都可以自行复制和调整模型。一旦发布了模型权重，发布公司就不再有任何手段来控制 AI 的使用方式了。
在 Holly Elmore 看来，释放模型权重是一项危险的策略，任何人都可以修改模型，并且这些模型无法被召回。“模型越强大，这项策略就越危险。”
相较于开源，通过 API 访问的大模型通常具备各种安全特性，比如响应过滤或通过特定训练阻止输出危险或令人厌恶的响应。
如果模型权重被释放出来，那么重新训练模型来跳过这些“护栏”就变得容易多了。这使得利用这些开源模型来制作网络钓鱼软件、实施网络攻击更加成为了可能。
因为，她认为部分问题在于“针对模型释放的安全措施不够”，需要有更好的方式来保证模型安全。
目前，Meta 尚未对此发表任何评论。不过，Meta 首席 AI 科学家 Yann LeCun 似乎对“开源 AI 必须被取缔”这一说法进行了回应，晒出了巴黎开源 AI 创业社区的盛况。
图片来自：X @Yann LeCun
与 Holly Elmore 持不同意见的人也有很多，认为 AI 发展的开放策略是确保实现技术信任的唯一途径。
有网友表示，开源有利有弊，既可以让人们获得更高透明度并增强创新，但也将面临恶意行为者滥用（如代码）的风险。
不出所料，OpenAI 再次遭到了揶揄，“它应该回归开源。”
对开源持有担忧的不在少数
MIT AI 安全博士后研究员 Peter S. Park 表示：“未来广泛发布先进的 AI 模型将特别成问题，因为防止滥用 AI 模型基本是不可能的。”
不过，非营利性人工智能研究组织 EleutherAI 的执行董事 Stella Biderman 表示：“到目前为止，几乎没有证据表明开源模型造成了任何具体的损害。目前还不清楚是否仅在 API 背后放置一个模型就可以解决安全问题。”
Biderman 认为：“构建 LLM 的基本要素已在免费的研究论文中公开，世界上任何人都可以阅读论文文献来开发自己的模型。”
她还补充道：“鼓励公司对模型细节保密可能会对领域研究的透明度、公众意识和科学发展产生严重的不良后果，特别是会影响独立研究人员。”
尽管大家已经在讨论开源带来的影响，但 Meta 的方法是否真的足够开放，是否能够发挥开源的优势，还未可知。
开放源代码促进会（OSI）执行董事 Stefano Maffulli 表示：“开源 AI 的概念尚未得到正确定义。不同的组织使用该术语来指代不同的事物 —— 表示不同程度的‘公开可用的东西’，这会让人们感到困惑。”
Maffulli 指出，对于开源软件来说，关键问题是源代码是否公开可用并可复现用于任何目的。但是想复现 AI 模型可能必须要共享训练数据、收集数据的方式、训练软件、模型权重、推理代码等等。其中，最重要的是训练数据可能存在隐私和版权问题。
OSI 自去年以来一直致力于为“开源 AI”给出一个确切的定义，很有可能会在未来几周内发布早期草案。但无论如何，他都认为开源对 AI 发展至关重要。“如果 AI 不是开源的，我们就不可能拥有值得信赖、负责任的 AI”，他说道。
未来，关于开源与闭源的分歧会一直延续下去，但开源已经无法阻挡。
,Meta遭腾讯客服电话 举牌抗议，开放模型可能导致AI失控？相关：
东北喜剧，成为电子咸菜图片来源@视觉中国作者 | 咸鱼鱼，监制 | 吴怼怼暑期档古偶没卷出什么花头，但金九银十却让古装喜剧刷足了存在。8月赵本山携《鹊刀门传奇》再战江湖，9月《我有一个朋友》以豆瓣8.6贡献惊喜，及至10月，还有大娘子带着四个女儿上演《兰闺喜事》。三部作品同台竞技，不仅意味着，本山大叔，被全面挑战，也是东北喜剧人的一次期中小考。东北人的喜剧天赋，是大众公认的。在《鹊刀门传奇》流出的一段拍摄花絮里，赵本山曾给徒弟..
奔驰联手蔚来，到底有没有未来？7 月底，大众耗资 7 亿（约合人民币 50 亿元）收购小鹏汽车 4.99% 股份，并正式达成技术框架协议，未来双方将会在小鹏 G9 的基础上，联手推出两款 B 级纯电车型。大众与小鹏联姻的消息，就像是一颗「重磅炸弹」，激荡起新势力车圈一阵涟漪。从前，只听说过「以空间换时间」、「用重资将技术请进来」，像小鹏这样直接的技术输出，在国内汽车工业史中实在不多见。不过，「两极反转」的爽文故事有机会续写下去，传统豪华..
从肖战到易烊千玺，倍轻松能变轻松吗？作者 | 黄燕华 编辑 | 蛋总美编 | 倩倩 审核 | 颂文尚未消除外界对其“科技含量低”这一质疑的倍轻松，近期高调官宣了新任“顶流”代言人。9月19日，倍轻松官宣了国内“00后”明星易烊千玺为其全球品牌代言人，引发业内关注。此前，其代言人由“90后”顶流明星肖战担任。有着科创板“智能按摩设备第一股”之称的倍轻松，自2021年7月15日上市以来，伴随着外界对其是否符合科创板要求的质疑声，一路在营销推广上高举高打..
iPhone 15 Pro迎来超快破发，苹果栽倒在颜色上？蓝色，「钛」难卖了！在今年苹果发布会上，苹果公司全球营销高级副总裁格雷格·乔斯维亚克向我们介绍了iPhone 15 Pro/Max在设计方面最大的变化——钛金属，伴随新材质的加入，这代iPhone也在配色上拥有了新的策略。为了突出「钛金属」在设计部分的重要性，iPhone 15 Pro系列的颜色被命名为白色钛金属、黑色钛金属、原色钛金属和蓝色钛金属。（图源：Apple）原色、蓝色，作为本代iPhone最「特别」的配色，理应像前代「暗紫色..
巴以冲突，意味着乱纪元还是恒纪元的的到来？“乱纪元和恒纪元”，这个说法出自《三体》的设定，小说里面，三体星球因为有三颗太阳所以他们的生存状态非常恶劣。太阳是一个生命星球维系生命，稳定进化的必要核心因素，但是当天上有三个太阳。而且不断的围绕三体星运转，那么恒星的引力就会对行星上的气候和生存状态造成非常大的负反馈，而且极其不稳定。所以三体星人，把太阳有规律的东边升起西边落下的年份叫恒纪元，太阳无规律运动的时候，叫乱纪元。这个乱纪元的单位和持..
巴以冲突，为何再爆发？巴以冲突愈演愈烈。10月7日上午，巴勒斯坦武装组织哈马斯突然对以色列发动了规模空前的袭击，武装分子发射数千枚火箭弹，并且挟持了数量不少的人质，包括部分女性。由于以色列情报部门反应不足，此次攻击导致至少100名以色列人死亡，至少1400人受伤。这是巴以多年来最大规模的冲突，且发生在“赎罪日战争”（Yom Kippur War）又称第四次中东战争的五十周年。以色列总理本雅明·内塔尼亚胡宣布以色列处于“战争状态”。有分析认..
日本拟在经济对策中加入促进AI内容，涉及对基础模型开发等日本首相岸田文雄 新华社 资料图日本计划出台相应政策支持人工智能。当地时间10月9日，日本首相岸田文雄在互联网治理论坛（Internet Governance Forum, IGF）上表示，将在最早10月内制定的经济对策中加入促进AI（人工智能）开发和应用的相关内容，并将在年内发布由七国集团（G7）讨论制定的、面向AI开发者的国际指导方针。岸田文雄表示，在经济对策中，将会通过“对计算资源进行整备、对基础模型的开发进行支援，以及促进AI..
中东“火药桶”再燃，国际油价跳涨，石油危机会重演吗？地缘局势升级、避险情绪升温，周一黄金原油大幅高开。以色列与巴勒斯坦10月7日爆发新一轮军事冲突，巴勒斯坦伊斯兰抵抗运动（哈马斯）当天清晨从加沙地带向以色列发起近年来最大规模火箭弹袭击，以军则对加沙地带展开多轮空袭。冲突仍在持续，迄今已致双方超1100人死亡、超过4000人受伤。受此影响，在中国国庆长假期间大幅下挫的国际油价迎来“血色助攻”，两大国际原油期货一度涨超5%，随后回落。截至发稿，WTI原油上涨2.77%，..
欧盟对中国电动车反补贴调查带来的危与机欧盟欲迟滞中国车进军欧洲的脚步，争取时间建设充电桩、扩产电池、升级车型，但这些领域很难离开中国企业文 | 刘丁编辑 | 尹路10月4日，欧盟委员会发布公告，宣布正式开启对从中国进口的纯电动车的反补贴调查。4日的公告中说：“欧委会有足够的证据证明（中方）补贴与损害威胁（欧洲产业），存在因果关系，满足了启动反补贴调查的前提条件”。中国商务部发言人10月4日回应：“此调查依据的是‘主观臆断’，不符合世贸组织相..
巴以冲突再起，矛盾难以调和，世界担忧双方走向全面战争巴以之间爆发的冲突持续激化，以色列军队和巴勒斯坦伊斯兰抵抗运动（哈马斯）在加沙地带等多个地方展开激战。自10月7日双方发生本轮冲突以来，巴方包括加沙和约旦河西岸两地共508人死亡，超2800人受伤。以方死亡人数已超过700人，约2000人受伤。巴以冲突急剧升级令世界震惊，人们更担忧的是这一冲突未来是否会进一步扩大。当地时间2023年10月9日，以色列斯德洛特，以色列军队增援部队就位。当地时间2023年10月9日，以色列斯德洛..