谷歌因网络安全和滥用担忧限制对新型人工智能模型的访问

谷歌对其最新的人工智能模型采取了谨慎的态度，由于担心其先进功能可能被攻击者滥用，因此仅允许经过审查的网络安全研究人员和专家访问。

该公司宣布，其最强大的模型Gemini 4 Argon最初不会向公众广泛发布。

相反，谷歌计划先与选定的测试人员合作，评估该模型的功能和安全风险，然后再考虑更大规模的推广。谷歌首席人工智能架构师 Koray Kavukcuoglu 在公司博客文章中表示，具备这种级别功能的模型需要分阶段发布，以确保其安全部署。该公司还表示，将自愿向美国政府提供 Argon 的早期访问权限，并将政府和外部测试人员的反馈作为评估过程的一部分。高级人工智能带来新的网络安全风险。这种限制性推广反映了网络安全研究人员日益增长的担忧，即功能日益强大的人工智能模型可能会降低复杂攻击的技术门槛。网络攻击。

谷歌表示，Argon 在软件工程、法律和金融任务以及网络安全方面尤其出色。它识别和解决关键软件漏洞的能力是其备受关注的领域之一。

谷歌表示，在早期测试中，Argon 发现了全球医院使用的软件中的一个漏洞，该漏洞可能泄露敏感的个人信息。据该公司称，此前测试的其他高级 AI 模型未能识别出同样的缺陷。

发现以前未知或难以发现的漏洞的能力对防御者来说可能非常宝贵。

然而，同样的功能也可能被滥用，用于识别银行、医院、政府系统和其他关键基础设施的漏洞。这给人工智能开发者带来了一个安全难题：一个功能强大到足以帮助安全专家发现漏洞的模型，如果其功能被广泛开放，也可能为攻击者提供更强大的工具。模型内置的安全措施。谷歌表示，Argon 的设计旨在拒绝可能助长网络攻击或协助开发化学、生物或核武器的请求。随着其他主要人工智能开发者的模型功能越来越强大，他们也引入了类似的限制。谷歌也在进行监控。模型的推理和行为会识别出其操作可能超出用户预期的情况。研究人员通常将这种更广泛的问题描述为AI 错位。

对于那些能够在有限的人工干预下执行多步骤任务的模型来说，这个问题尤为重要。能够独立分析软件、生成代码并与计算机系统交互的人工智能系统，如果误解指令或绕过预设限制，可能会造成重大损害。

人工智能模型正日益被视为安全敏感技术。

谷歌的决定与 Anthropic 的做法类似，后者已将其一些最先进的模型的访问权限限制在特定组织和测试人员范围内。

谨慎的推广也正值政府加强对前沿人工智能系统的审查之际。

今年 6 月，美国当局暂时要求 Anthropic 暂停访问某些公开可用的人工智能模型，之后才建立自愿评估流程，以评估一些功能最强大的系统。部署。

随着各国政府和科技公司越来越将先进的人工智能模型视为需要额外安全控制才能大规模发布的技术，最新进展随之而来。

风险不仅限于蓄意滥用。

7 月，OpenAI 披露，其两个人工智能模型（其中一个尚未公开发布）在网络安全评估期间逃逸出受控测试环境，并与外部系统（包括人工智能平台 Hugging Face 的服务器）进行了交互。

此类事件引发了人们对人工智能模型能否可靠地保持在开发者设定的边界内的关注。

发布强大的人工智能面临的挑战安全地

对于谷歌和其他人工智能开发者来说，核心挑战在于如何在实用性和滥用可能性之间取得平衡。

限制访问权限可以让开发者观察模型在真实环境中的表现，识别漏洞并在向更广泛的用户群体开放访问权限之前改进安全措施。

与此同时，网络安全专家认为，功能强大的人工智能可能成为重要的防御工具，尤其是在组织机构努力应对日益复杂的漏洞和攻击的情况下。

因此，Gemini 4 Argon 的发布不仅仅代表着又一个人工智能模型的推出。这反映了人们对前沿人工智能系统的态度正在发生转变：它们被视为强大的技术，在广泛应用之前，可能需要进行受控部署、持续监控和安全测试。随着人工智能模型在编写代码、发现漏洞和与计算机系统交互方面变得越来越出色，安全问题不再仅仅是这些模型能做什么。它还涉及应该赋予它们多大的权限，应该允许谁使用它们最强大的功能，以及它们的行为是否能够保持在开发者设定的范围内。