OpenAI和波兰NASK国家研究所已签署协议，探索在AI安全、保障和技术研究方面的合作。这一合作将汇集双方的专业知识，以更好地理解新兴风险、加强防护措施，并探索先进AI如何助力构建更安全、更具韧性的数字生态。
随着AI系统能力不断增强，开发者与公共研究机构之间的国际合作对于理解风险和建立更强防护至关重要。OpenAI此前与美国超级智能标准与创新推进中心（CAISSI）、英国AI安全研究所（AISI）以及全球其他公共研究机构开展的合作，已经帮助加强了防护措施，发现并修复了AI智能体中的安全漏洞，并推进了前沿AI安全。
根据协议，NASK的AI安全研究中心——即波兰人工智能安全研究所（AISI）——将与OpenAI在AI安全研究方面展开合作，探索评估能力日益增强的AI系统、识别潜在漏洞并加强防护的方法。
“与OpenAI合作对该研究所及其AI安全研究中心而言是自然的一步，该中心正积极参与AI安全研究。这项工作涵盖制定针对新兴风险的防护措施、检测合成AI生成内容，并理解其恶意用途以及这些挑战中的多语言问题。
AI安全无法孤立实现。这是一项协作努力，只有通过公共AI安全研究所与前沿AI开发者之间的积极合作，我们才能确保AI真正可靠且安全可用。
通过将我们的研究专长与OpenAI的技术能力相结合，我们能够更好地预判风险、加强防护，并建立公众对这些变革性技术的信任。” ——NASK所长Radosław Nielek
“波兰拥有杰出的科学家和技术人才，其中许多人曾帮助领导OpenAI自身的研究。随着AI能力越来越强，我们必须借助组织以外的专业知识来挑战我们的假设、测试我们的系统并加强防护。与NASK的这项协议为共同开展这一工作打开了大门，将波兰的研究专长带入到让AI更安全的国际努力中。” ——OpenAI副总裁兼欧洲、中东和非洲政策负责人Tom Duff Gordon
OpenAI曾呼吁美国与世界各国在前沿AI的国际技术标准方面开展合作，借鉴AI安全研究所和标准机构的专业知识。在能力评估、风险评估、防护测试和事件报告方面形成共同方法，可以帮助各国比较证据并应对跨境风险。与NASK的合作体现了将国家专业知识引入这一更广泛努力的价值。
就NASK而言，这种专业知识建立在广泛的AI安全研究基础上，并直接应用于保护公共服务和波兰的数字信息生态。没有像NASK这样的国家合作伙伴，全球AI安全标准可能仍然脱离AI实际使用中的现实。
该协议还建立在OpenAI与波兰网络防御者现有合作的基础上。今年7月，在NASK内运作的CERT Polska通过Daybreak获得了OpenAI网络能力模型的使用权限。该团队利用OpenAI模型帮助发现了MikroTik RouterOS中的六个漏洞，其中包括可被组合利用、在无需认证的情况下控制受影响设备的缺陷。厂商已发布修复程序，CERT Polska确认这些修复阻止了其观察到的攻击。
来源: 海外媒体
登录后即可参与讨论
立即登录