骇客集结！拉斯维加斯掀起AI战争，ChatGPT等成靶子

拉斯维加斯，数千黑客集结，AI聊天应用ChatGPT等成攻击目标，引爆赌城科技战！

本周末，拉斯维加斯成为黑客新战场，数千黑客汇聚，将AI聊天应用ChatGPT等列为攻击目标。与此同时，人们对人工智能技术的担忧与审查日益升温。这项新兴技术正在全球蔓延，但其被指存在偏见扩大、虚假信息传播及危险材料散播等问题。

全球顶级安全会议DEFCON一年一度的极客盛宴，即将在拉斯维加斯启幕。被誉为“极客界奥斯卡”的DEFCON，将在本周五（8月11日）开幕。会议组织者表示，此次会议旨在揭示黑客新方法，揭露人工智能模型的操控之道，并为开发人员提供弥补漏洞的机会。

黑客行动得到OpenAI、谷歌、Meta等顶尖人工智能公司的支持，甚至获得白宫背书。名为“红队”的演习将推动计算机系统达到极限，揭示人工智能应用的缺陷和漏洞，此举与白宫“人工智能权利法案蓝图”相呼应，鼓励科技公司负责地开发、部署人工智能，限制基于AI的监控手段。

近几月，研究人员揭示聊天机器人易受欺骗，甚至能下达伤害指令。虽然大多数聊天应用已有保护措施，防止发布虚假信息、仇恨言论或危险信息，但卡内基梅隆大学的研究人员却成功欺骗ChatGPT，Meta的Llama-2被建议辨认“心理健康问题弱势群体”，谷歌的Bard则误导释放“致命病毒”。

Zico Kolter，卡内基梅隆大学副教授表示：“人工智能正渗透各领域，这令人担忧。这种创业热潮似乎未考虑到漏洞风险。”虽然这些方法遭公司封堵，但已推动OpenAI、Meta、谷歌、Anthropic等公司加强系统安全。

卡内基梅隆大学教授Matt Fredrikson强调，人工智能的独特之处在于无人完全理解其工作机制，防止聊天机器人绕过保护措施。Fredrikson称如何预防这类情况，仍是未解之谜。

OpenAI、Meta、谷歌和Anthropic支持“红队”演习，这种方法常见于网络安全领域，能在受控环境中揭示系统漏洞。这些公司公开表示通过“红队”改进其人工智能系统。

OpenAI发言人表示：“红队不仅提供有价值反馈，增强模型安全，还带来不同视角，助力人工智能发展。”白宫科技政策办公室主任Arati Prabhakar表示，此举为人工智能安全发展战略一环。

拜登政府推出为期两年的“人工智能网络挑战”，与领先人工智能公司合作，运用AI技术保护关键软件，提升网络安全。黑客行动与之呼应，展示人工智能领域迈向更安全、可靠未来的决心。