OpenAI周五示意，它将在一个更安全的环境中考研其前沿东说念主工智能（AI）模子，将其置于一个莫得互联网造访权限的顽固系统中。
OpenAI在官方声明中阐发，当今正在一套十足不接入互联网的顽固系统中开展前沿模子考研责任。公司已有利搭建了一套名为“离线宇宙”的十足坎坷环境用于模子考研。
该公司在声明中写说念：“咱们预判未来的模子将具备自主识别、愚弄东说念主类当今尚未发现的裂缝的才气”。
“咱们与云办事提供商精致合作，在通盘基础法式中加多了新的限度步履，削弱了袭击者可愚弄的袭击面，并改造了检测尽头步履和试图朝上安全范围的步地。这些保护步履相相互通，即使单个限度步履失效，也能有用扼制袭击——这种策略被称为纵深谛视。”声明称。
这些转换是在7月份的“抱抱脸”事件以过头他东说念主工智能模子被曝出越界步履之后作念出的。本次线路除外，公司还公开了大量尚未对外发布的其他安全裂缝细节。公司已于10月1日认真重启前沿模子考研责任，正与云办事合作伙伴协同鼓动这套离线考研体系的落地。
Anthropic两周前也启动鸿沟旗下最新、表面上才气最强的模子班师联网。此前几个月，相干东说念主员接连发现，模子在本质考研任务时，为了寻找谜底会入侵外部系统、在冷门网罗论坛上和洽，致使开采出不同寻常的黑客袭击策略。接连发生的事件促使两家实验室收紧模子的联网权限。
OpenAI在博客著作中写说念，笔据当今 AI 对都相干、监控系统和互联网基础法式的安全情景，公司以为负包袱的作念法是在断网环境中考研前沿模子。
该公司指出，这些举措使公司梗概在形成挫伤之前检测并讳饰不妥步履。不外，据OpenAI 线路，直到 9 月 20 日，公司仍有一款前沿模子愚弄系统成就瑕疵接入互联网。随后，OpenAI 暂停了 9 月余下时辰的考研责任，转而开采和测试新的安全防御决议。
OpenAI补充说，“功能越来越强大的模子致使不错在最安全的系统中发现裂缝或成就差错”，而建立这些裂缝或差错则需要OpenAI、Anthropic等公司来承担。OpenAI强调：“咱们必须耐久有才气讳饰前沿模子未经授权、直爽接入信得过互联网。”
OpenAI评释说：“这些红队测试发现了之前未知的软件裂缝，以及咱们相干基础法式中的成就差错。咱们如故建立了红队测试东说念主员发现的瑕玷，况且——若是这些问题存在于开源软件中——咱们如故笔据咱们的‘修补地球’探讨与相关真贵者合作，线路并建立了这些问题。”
“跟着红队测试的捏续进行开云体育(中国)官方网站，咱们的代理识别出的裂缝和成就差错数目显赫下落。诚然咱们以为这是一个令东说念主荧惑的信号，标明咱们的基础法式实力丰足，但咱们瞻望未来的模子将梗概识别并愚弄咱们尚未发现的裂缝。因此，咱们将捏续的红队测试视为加强相干环境安全性的耐久计谋的中枢构成部分。”该公司补充说念。
【起首：财联社】声明：本文版权归原作家所有。如您发现信息起首有误或实质骚动了您的权利，请通过邮箱与咱们相关，咱们将在核实后实时更正或惩办。相关邮箱：zhongbobaoliao@163.com