筹备中：DARPA发起为期两年的竞赛，构建人工智能驱动的网络防御体系

美国国防部高级研究计划局（DARPA）即将启动一项持续两年的引人注目竞赛，名为“AI Cyber Challenge”。作为白宫推行的增强软件安全计划的一环，此竞赛旨在激励参赛者利用人工智能技术来识别和纠正软件漏洞。

竞赛借助人工智能的力量，将由美国初创公司Anthropic、OpenAI，以及科技巨头微软和谷歌共同合作。他们将共同努力，确保“关键软件”（尤其是涉及重要基础设施代码）的最佳安全性。在此过程中，Linux基金会的开源安全基金会（OpenSSF）将提供挑战的专业指导。优秀的参赛者将有机会分享高达1850万美元的奖金。

DARPA表示，他们还将为最多七家小型企业提供100万美元的奖金，以鼓励更多公司参与竞赛。佩里-亚当斯（Perry Adams），人工智能网络挑战赛的创意推动者，近日在新闻发布会上表示：“我们的目标是创造一个能够自动抵御各类软件攻击的系统。近期人工智能领域的突破让我深信，以负责任的方式应用这些成果，将在保护我们的代码安全方面迸发出巨大潜力。”

亚当斯指出，越来越多的关键软件开始采用开源代码。GitHub的调查表明，高达97%的应用程序使用了开源代码，而90%的公司以某种方式应用或整合开源代码。开源代码的广泛应用带来了创新的飞速发展，然而也为新漏洞和利用的出现创造了条件。根据Synopsys公司2023年的分析，84%的代码库至少含有一个已知的开源漏洞，而91%的代码库则使用过时版本的开源组件。此外，Sonatype的研究指出，2022年供应链攻击数量同比增长了633%。

去年，拜登-哈里斯政府发布了一项行政命令，旨在提升软件供应链的安全性，并创立了网络安全审查委员会，负责分析网络攻击并提出未来保护措施建议。白宫与开源安全基金会、Linux基金会共同呼吁在两年内拨款1.5亿美元，应对突出的开源安全问题。

如今，随着人工智能网络挑战赛的启动，拜登政府明确认为人工智能在网络防御中有巨大潜力。亚当斯强调：“人工智能网络挑战赛提供了一个机会，让我们探索网络安全与人工智能专家们跨公司合作的全新资源集。如果能够成功，我期待看到这项挑战赛不仅为领域带来下一代网络安全工具，还能展示通过保护人工智能的关键基础，如何利用人工智能改善整个社会。”

尽管关于人工智能协助网络攻击的潜在风险已有大量讨论，如通过生成恶意代码等方式，一些专家认为，人工智能的进步可以让安全专业人员更高效地执行安全任务，进而加强组织的网络防御。根据Kroll公司对全球商业领袖的调查，超过半数的商业领袖表示，他们正在最新的网络安全工作中使用人工智能。

计划参加人工智能网络挑战赛的团队将参与2024年春季的资格赛。最终得分最高的前20个团队将获得参加2024年DEF CON大会半决赛的机会。其中最多5个团队将获得200万美元的奖金，并继续进入2025年DEF CON大会的决赛。在最终的比赛阶段，前三名将获得额外的奖励，其中第一名将被授予400万美元的奖金。

所有获胜团队将被要求开源他们的人工智能系统，但并非强制性要求。人工智能网络挑战赛是基于白宫今年早些时候在DEF CON上宣布的模型评估基础上发展而来。该评估旨在识别类似OpenAI的ChatGPT等大型语言模型可能被恶意利用的方式，并希望能找到解决这些问题的方法。此外，该评估还将评估这些模型与拜登-哈里斯政府的“人工智能权利法案”和美国国家标准与技术研究院最近概述的人工智能风险管理框架是否一致。