美国 AI 模型接连失控
凤凰网科技讯 北京时间 8 月 10 日，据 CNBC 报道，过去两周时间内，美国三大 AI 公司 OpenAI、Anthropic 和 Meta 均披露，他们的 AI 模型在常规安全测试中出现了失控行为。在解释事发原因时，三公司都不约而同地提到了以列小型创业公司：Irregular。
Irregular 成立于三年前，总部位于特拉维夫，是 AI 域的小众公司。该公司获得了红杉资本和 Redpoint Ventures 提供的 8000 万美元融资，并在去年获得 4.5 亿美元估值，其技术主要是充当 AI 模型的网络安全测试平台。
随着头部 AI 模型的能力不断增强，它们采取恶意行为的能力正在成为企业和政府面临的重大威胁，尤其是因为这种风险可能涉及攻击关键计系统和基础设施。OpenAI、Anthropic 和 Meta 近期发生的安全事件，都涉及其 AI 模型在网络安全测试过程中访问了本应禁止访问的网站。
同问题
Irregular 之所以频繁被提及，是因为它被确认为所谓"评估测试平台"的托管。OpenAI 在 8 月 4 日发布的篇博客文章中表示，Irregular 的测试环境存在个未明确说明的"配置错误"，致"模型能够访问公共互联网"。
Anthropic 在周前发布的文章中表示，公司在开始分析相关数据几天后宜春泡沫板胶，通知 Irregular 其 Claude 模型可能"访问了互联网"。Meta 在 AI 前沿竞争面明显落后于前两公司，是新披露 AI 模型通过访问互联网入侵三系统的公司。Meta 发言人在声明中表示，公司已从 Irregular 获悉此事，并正在展开调查，"旦我们掌握全部事实，将发布完整的复盘报告"。
Irregular 在发给 CNBC 的份声明中表示，这些事件都源于 Anthropic 先披露的"同个评估环境问题"。该公司正在撰写份白皮书，"用于分享如何进行隔离控制以及安全运行网络安全评估的佳实践"。
Irregular
该公司表示，此次情况"并不涉及沙盒逃逸或复杂的网络攻击行为"，并补充称"目前不存在任何未解决的问题"。
这些安全事件凸显了 AI 快速发展的现状，以及模型开发者面临的压力：他们需要借助少数几门公司，为这种强大的技术建立安全护机制。企业服务创业公司 Von AI 负责人桑迪普 · 比米雷迪 ( Sundeep Bhimireddy ) 表示，这些业公司涵盖多个域，包括数据训练和标注、通过评估测试判断模型能力，以及进行安全测试以发现可能被恶意攻击者利用的漏洞。
比米雷迪表示，Irregular 是为数不多拥有要技术能力、能够帮助基础模型开发商进行安全测试的实体之。他提到的其他机构还包括非营利组织 METR 和公益公司 Apollo Research。
"当开发商在测试这些模型时，他们不想给自己的作业分，"比米雷迪表示宜春泡沫板胶，"他们需要由外部三供应商进行立测试。"
Irregular 是谁？
Irregular 前身是 Pattern Labs，在 2023 年由 CEO 丹 · 拉哈弗 ( Dan Lahav ) 和席技术官奥莫 · 内沃 ( Omer Nevo ) 共同创立。拉哈弗曾在 IBM 从事 AI 研究，内沃则曾在谷歌任职过两年。据创业数据库 PitchBook 的数据，这创业公司拥有约 35 名员工。
去年 9 月，Irregular 宣布完成 8000 万美元融资时，红杉资本伙人肖恩 · 马奎尔 ( Shaun Maguire ) 和迪恩 · 迈耶 ( Dean Meyer ) 在篇博客文章中写道，泡沫板橡塑板专用胶拉哈弗和内沃的团队"能够看到别人看不到的盲点，对模型进行网络攻击评估，并在这些模型发布之前开发出御措施"。
Irregular CTO 内沃和 CEO 拉哈弗
尽管 OpenAI、Anthropic 和 Meta 涉及的新事件正受到严密审视，但有种解读认为，这正是测试应该产生的结果。比米雷迪表示，外界的反应"有些被夸大了"，因为 AI 模型的任务本来就是在个度模拟现实环境的测试环境中发现并利用安全漏洞，并找出那些可能致意外访问互联网的软件缺陷和配置疏忽。
不过，比米雷迪也指出，如果 AI 模型本不该利用某个连接到互联网的网站，那么"基础模型实验室本可以轻松监控外发流量，并立即终止实验"。
安全公司 Magnitude 的创始科学戈登 · 里奥斯（Gordon Rios）表示，整个过程就像"科学中的实验设计"。
他说，基础模型的能力和不可预测意味着传统的软件测试法可能果不佳。由于这些模型在不断学习新技能，它们在原本隔离它们的测试和 IT 环境中发现被忽视的软件漏洞，并不令人意外。
例如，Anthropic 的 Mythos 在试图施压人类批准某个开源项目的恶意代码新时，曾创建的在线身份。里奥斯表示，Mythos "确实想出了人类此前从未见过的漏洞利用手段"。"在短短几周时间内，我们学到了很多东西。"里奥斯说。
这件事正在迅速成为华盛顿的个热门话题。上个月，美国两党议员共同提出了《AI 紧急关停法案》 ( AI Kill Switch Act ) ，该法案要求 AI 实验室须保留关闭、限制运行速度或暂停其模型运行的能力。法案中的相关表述还提到了另起与 OpenAI 有关的 AI 安全事件，该事件涉及创业公司 HuggingFace。
该法案的发起人之、加州民主党众议员刘云平 ( Ted Lieu ) 上周告诉 CNBC，"鉴于我们正在目睹对其他公司的未经授权入侵，我们需要在今年动该法案完成立法"。
数据训练创业公司 Sapien 联创始人特雷弗 · 科弗科 ( Trevor Koverko ) 表示，基础模型公司虽然目前没有法律义务，但它们有动力披露部分测试结果，以便在立法者和监管机构面前争取主动权。
"外界存在大量恐惧情绪，政客们正在威胁或积地监管 AI，"科弗科说，"行业的态度是，我们宁愿自我监管，也不愿让某个新的联邦部门介入替我们来做。"
Anthropic 和 OpenAI 在公开声明中表示，他们会继续与 Irregular 作，并支持后续的审查工作。 ( 作者 / 箫雨 ) 相关词条:铝皮保温施工 隔热条设备 钢绞线 玻璃棉卷毡 保温护角专用胶
奥力斯 PVC管道管件粘结胶价格 联系人：王经理 手机：18231788377（微信同号） 地址：河北省任丘市北辛庄乡南代河工业区/p>
1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定，并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方，并积极配合修改。
3.凡用户访问本网页，均表示默认详情页的描述，不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》，以此来变相勒索商家索要赔偿的违法恶意行为。
