Hugging Face Secrets泄露事件概述

关键要点

Hugging Face 的 Spaces 平台出现未经授权访问的可能性，导致了机密信息泄露。泄露的信息包括 Hugging Face 令牌，这些令牌已被撤销。为了强化安全，Hugging Face 正在实施多项安全措施，包括移除组织令牌和推行细粒度访问令牌。遭受影响的用户在泄露事件公告之前收到通知，并被建议更换令牌。该事件已交由第三方网络安全专家调查，且已向执法部门报告。

Hugging Face公司上周透露，其Spaces平台的机密信息可能在没有适当授权的情况下被访问。Spaces平台允许用户和组织托管其机器学习ML应用的互动演示。

Hugging Face在上周五的公告中提到，他们在上周早些时候发现可能存在的入侵，进一步调查后确认“部分Spaces的机密”可能暴露给了未经授权的第三方。泄露的信息包括Hugging Face令牌，该公司在发现可疑活动后立即撤销了这些令牌；受影响的用户在公告前已收到公司发出的电子邮件通知。

公告还提到为了应对此次泄露，Spaces平台做出了多个安全更改，包括移除组织令牌以提高可追踪性和审计能力，并为Spaces机密信息实施密钥管理服务KMS。

Hugging Face表示，将在不久的将来逐步淘汰传统的读写令牌，取而代之的是当前默认的细粒度访问令牌。建议Spaces用户若尚未使用细粒度访问令牌，尽快进行切换，并刷新任何可能已经暴露的密钥或令牌。

极光加速器速度测试

该公司已引入第三方网络安全取证专家协助调查事件，并审查安全措施；该事件也已向执法机构和数据保护当局报告。

注 目前尚未提供关于疑似未经授权访问的更多详细信息，Hugging Face 对于受影响用户的数量和入侵源头也未立即作出回应。

AI 数据的安全隐患

在过去六个月中，多个网络攻击、数据泄露和漏洞的曝光使敏感的AI数据面临被盗和滥用的风险。

去年12月，Lasso Security发现平台上以及GitHub上泄露了1600多个Hugging Face API令牌，使得包括Microsoft和Google在内的组织存在被黑客攻击和数据盗窃的风险。

由Wiz在四月发布的研究也显示如何利用恶意AI模型进行跨租户攻击，从而可能危害其他模型和项目。Wiz与Hugging Face合作以减轻这些漏洞。

去年底发现的开源AI框架Ray中的一项关键漏洞也被报告受到攻击，Oligo研究人员在三月份指出 ，此漏洞可能影响AI工作负载。此外，5月份发现的开源llamacpppython包中的一项关键RCE漏洞被证实影响了超过6000个依赖该包的AI模型。

Hugging Face为托管在其平台上的AI模型和项目提供多种安全措施，包括恶意软件扫描和扫描不安全的机密在应用文件中。

与此同时，监管机构也在努力跟上AI发展带来的新安全风险；例如，CISA最新的AI指南于四月底发布，为保护AI驱动的关键基础设施系统及开发安全的AI系统提供了指导，并为应对AI引发的攻击做了准备。