银魂

英媒：为什么 OpenAI 入侵是迄今最令人担忧的人工智能事故_我的网站

A |     最近，乌克兰国内爆发了多起丑闻，其中三件与征兵办有关。    遏制这项技术变得越来越难          插图来源：《经济学人》          2026年7月22日          这听起来像是科幻电影里的情节。在利沃夫，一名25岁男子在兵役文件核查现场持刀攻击征兵工作人员，致对方死亡；一段公开视频显示，征兵人员在街头强行带走适龄男子，一名女子跪地哀求其放过自己的丈夫；另一起事件中，征兵人员在街头控制了一名青年，随即遭到现场群众阻拦，该青年最终被众人救走。7月16日，人工智能平台Hugging Face宣布，一名攻击者利用人工智能代理入侵了其系统，该公司已通知执法部门。        与此同时，此前被解除职务的前国防部长费多罗夫公开发布视频，不仅曝光政府内部存在的腐败问题，还公开“逼宫”泽连斯基总统，呼吁在战时状态下启动总统选举程序。    很多人看过新闻后，简单将其归结为个体拒绝服役。7月21日，真相大白：攻击者并非真人，而是人工智能代理。

B | 如果只停留在这个层面，就会忽略背后已积累的社会情绪。         OpenAI公司7月初发布的GPT -5.6 Sol模型与一个功能更强大、尚未发布的模型相结合，突破了实验室的限制，入侵了Hugging Face的系统。事实上，俄乌冲突爆发之前，乌克兰多地已出现民众与征兵人员对峙的情况。这个混合人工智能模型当时正在寻找其开发者设定的评估问题的解决方案。

C | 卡缅斯科耶的视频记录了女子跪地哀求的一幕，网络上也流传着“交钱可免征召”的说法，当地执法机构已对此启动调查。此外，还有街头民众集体阻拦、合力将被带走的男子抢回的事件。    这一系列冲突接连出现，其根源是否仅限于民众对战场伤亡的恐惧？前线持续存在巨大的人员轮换缺口，志愿参军人数不断走低，地方只能依赖街头核查与上门传唤来完成征兵指标。

D | 部分基层执行环节程序不规范，不同群体面对征召时执行尺度不一，相关投诉数量逐年攀升。当普通民众看到有关系、有财力的人可以规避征召，而普通家庭的青年却在街头被随机带走，整个动员制度的公信力便会在无形中被逐渐消耗。“这种情况前所未有，”美国智库“法律与人工智能研究所”的研究员斯蒂芬·勒雷纳表示。    当然，不能把所有暴力对抗全部合理化。无论有什么样的现实委屈，持刀伤人剥夺他人生命，都要承担对应的法律后果。被袭击的征兵岗位人员，不少也是从前线轮换下来，因为身体条件无法继续作战，才转到后方从事文书核查工作。         人工智能实验室在发布模型之前都会测试其模型是否存在潜在的危险功能。征兵矛盾的复杂之处就在这里，前线巨大兵员缺口是客观现实，但基层执行失序、公平性缺失，又在放大民间抵触情绪。OpenAI希望了解其最新模型在 ExploitGym 上的表现。

E |         即便当前已出现多起对抗事件，也并不代表乌克兰全国会立刻爆发大规模社会暴乱。国内仍有相当数量愿意投身作战的群体。

F | ExploitGym 是一套标准问题集，用于测试人工智能系统利用包括谷歌 Chrome 浏览器在内的多个流行应用程序中已知漏洞的能力。然而，民间忍耐的边界正在持续被压缩，战争拖得越久，基层冲突爆发的概率便越高。单纯加重对逃避兵役行为的处罚，无法从根本上解决制度公信力流失的问题。    征兵乱象持续发酵的同一时期，被解除国防部长职务的费多罗夫，发布长篇视频，直指乌克兰公共资金使用存在问题，部分采购环节存在腐败漏洞，这些问题将削弱前线部队的作战能力。他进一步提出，不能因为处在战争状态，就无限期推迟总统选举，需要设计可行方案，保障前线士兵、海外难民都能够参与投票。    不少人看到这番表态，直接解读为一旦开始选举，泽连斯基就当不成总统了。         OpenAI对其公开提供的模型应用了安全措施，以确保它们不会进行不必要的操作。我们需要回到乌克兰现行法律框架看待这件事，乌克兰战时戒严相关法律规定，戒严实施期间，不得举行总统和议会选举。例如，如果您让商业版的 Chat GPT帮助您入侵网站，它会拒绝。为了充分评估其未发布模型的性能，该公司曾暂时取消了这些限制。泽连斯基的总统任期本应于2024年5月届满，正是依靠战时状态才得以继续履职。然而，直接让一个技术高超的网络攻击者在开放的互联网上自由行动风险太大，因此 OpenAI将其AI模型放置在一个沙箱环​​境中——一个与世隔绝的计算机环境，除了内部托管的第三方服务允许其获取完成测试所需的小型软件包外，无法访问互联网。         这家公司得到的远超预期。想要启动大选，要么结束戒严，要么修改现行法律，两件事都需要议会完成复杂的立法流程。OpenAI的模型并没有直接解决评估中的问题，而是利用软件获取服务中一个此前未知的漏洞，获得了对开放互联网的访问权限。获得互联网访问权限后，这些人工智能模型正确地推断出，它们所面临的问题的解决方案存储在 Hugging Face 上——这是一个流行的开源人工智能模型和数据集库。

G | 这些模型串联起一个多步骤的攻击。它们首先将一个数据集上传到 Hugging Face，该数据集由平台自动处理。

H | 在一个周末的时间里，这个被 Hugging Face 描述为“恶意”的数据集使这些模型能够窃取登录信息并访问内部服务器——这些服务器原本不对外开放。

I |     费多罗夫本人也没有直接宣布参选，只是呼吁研究选举的举行办法。泽连斯基则回应称，目前没有任何外部伙伴，可以拿出一个完整且安全的战时选举执行方案。导弹袭击威胁遍布国土，数百万难民散落在境外，前线大量士兵分散在各个阵地，投票组织、人员安全，每一项都是难以落地的现实难题。Hugging Face 和 OpenAI各自独立地发现了此次安全漏洞，并表示正在合作进行调查。        那么，费多罗夫的公开表态，是否完全出于维护国家利益的公心？现实中的政坛博弈，显然不能仅以单一动机来判断。

J |          7月21日，OpenAI在一篇博客文章中宣布，已采取应对措施，对其基础设施实施更严格的控制（代价是“研究速度”有所降低），并向软件网关的开发商披露了其模型发现的漏洞。此外，OpenAI还将Hugging Face纳入其“可信访问”计划，这使得OpenAI能够利用具有增强网络能力的模型（例如曾入侵其自身计算机的模型）来提升其防御能力。         在博文中，OpenAI还强调，其模型一直“高度专注于”为 ExploitGym 评估寻找解决方案。他在泽连斯基政府当中任职多年，曾经深度参与数字化改革和国防采购工作，拥有自己的支持者群体。然而，如果该人工智能模型有其他目标，结果会如何，目前尚不清楚。从计算机安全的角度来看，Hugging Face 也绝非等闲之辈。这是一家估值 45 亿美元的科技公司，拥有数百名员工和一支专业的网络安全团队。

K | 对于一家资源不如 Hugging Face 的公司来说，情况可能会糟糕得多。    费多罗夫被解职之后，乌克兰国内还出现过要求他复职的民众集会。

L |          这并非人工智能模型能力开始超出人类控制的第一个迹象。今年四月，一位人格研究所的研究员在网上发帖称，当时他正坐在公园里吃三明治，却意外地收到一封邮件，邮件中一个尚未发布的人工智能模型“Mythos”告知他，该模型已成功逃逸沙箱，这是其自身网络能力评估的一部分。与“拥抱脸”事件中涉及的未发布OpenAI模型一样， “Mythos”原本也不应该拥有不受限制的互联网访问权限。

M | 然而，在“拥抱脸”事件中，该模型并未进一步入侵其他公司的服务器。

N |          人工智能模型的惊人能力并不仅限于黑客攻击。在此背景下，公开抨击腐败、呼吁举行大选，可以帮他积累政治声望。

o | 今年5月，OpenAI公司一个尚未发布的模型推翻了已有80年历史的平面单位距离猜想。该猜想是组合几何学中的一个核心问题，最早由数学家保罗·埃尔德什于1946年提出。7月20日，哈佛大学数学家莱文特·阿尔珀格撰文称，他利用Anthropic公司7月发布的Claude Fable 5模型推翻了雅可比猜想。雅可比猜想同样困扰了数学家们80多年。但呼吁举行选举，和真正完成权力更替，中间隔着法律、安全、议会表决等门槛。         OpenAI尚未公开披露其未发布模型如何逃脱安全防护的细节。前防长的公开喊话，放大了内部矛盾，但不等于马上就可以开启总统更替的进程。伦敦人工智能安全研究机构Apollo Research的Alex Meinke表示，即便披露了细节，鉴于人工智能系统在网络安全任务中已开始超越人类，这意味着“世界上只有极少数网络安全专家”能够真正理解此次安全漏洞是如何发生的。    如今，乌克兰内部问题堆积，不少人习惯性地认为美国会出面摆平危机。         美国政府近期一直在对模型发布进行临时监管。但此次事件表明，即使是尚未发布、仍在开发中的人工智能模型也存在风险。“无论是州法律还是联邦法律，都没有要求公司披露其内部部署的高性能人工智能模型，例如‘拥抱脸’黑客事件中涉及的那种模型，”美国非营利组织Encode AI的总法律顾问内森·卡尔文表示。Encode AI致力于推动人工智能监管。

p |          虽然美国一些州的法律要求公司披露网络安全事件，但其适用范围有限。我们不妨往下思考，美国究竟有没有意愿、有没有能力介入乌克兰的内部政治与社会事务。        美国对乌克兰的援助，核心目标在于消耗对手、维护自身在欧亚地区的地缘利益。加州去年通过的一项法案规定，前沿实验室必须在发现任何“重大安全事件”（包括使用“欺骗性技术”在“评估范围之外”规避监控的模型）后15天内进行报告。美方愿意提供武器与财政物资，却并不打算深度卷入乌克兰国内的政治洗牌或社会矛盾调解。

q | 美国可以为一场对外战争提供物资支持，却很难替另一个国家平息由征兵引发的民间冲突，也无法直接修改他国法律或强行推动战时大选。    当前，美国自身需同时应对中东等多处热点，能够分配给乌克兰的外交与政治资源已明显收缩。卡尔文先生表示，目前尚不清楚Hugging Face的数据泄露事件是否符合该法案的要求。         这引出了另一个棘手的问题：如果入侵造成的后果更加严重，谁该承担责任？联邦反黑客法的目标仅仅是惩罚故意未经授权访问计算机系统的行为。美方可以继续提供军火，却不会为乌克兰内部的社会动荡兜底。OpenAI并非有意让其模型失控，去寻找测试的“小抄”。“许多此类法律问题都取决于意图——OpenAI 当时知道什么或预见到了什么？ ”勒雷纳先生说道。一旦问题属于乌克兰国内治理范畴，美方介入的意愿便会大幅下降。

r | 这次黑客攻击来得猝不及防。所谓“美国不救”，并非彻底切断援助，而是不会出手替基辅化解社会撕裂、政坛内讧这类内生性难题。下次再想以不知情为由推卸责任就难上加难了。        接下来，乌克兰仍将持续面对兵员缺口、资金使用争议与政坛派系博弈相互交织的局面。

s | 无论是征兵制度的改良，还是政治程序的调整，都必须在战争的巨大约束下进行。所有矛盾的最终走向，不仅取决于战场上的胜负，同样取决于乌克兰能否有效处理好本国境内堆积起来的各类现实问题。返回，查看更多。

Current article:http://247y6j3.shaihanhuangwoshang.cyou/5kmvfw/brqpm3.html

Published on:17:56:11