惊天大瓜：谷歌用150元“解锁”OpenAI秘密

惊天大瓜：谷歌用150元“解锁”OpenAI秘密

谷歌，这个全球互联网的巨头。

竟然以不到150元人民币的成本，通过API调用“窃取”了OpenAI gpt-3.5-turbo 的模型关键信息。

▍文章末：AI 万人一亿计划

**▍谷歌是怎么发现的？

**

事情的起因，要追溯到谷歌研究团队对OpenAI模型的深入分析。他们发现，通过精心设计的API调用，可以以极低的成本恢复出模型的投影矩阵和隐藏维度等核心结构。这听起来就像是高科技领域的“开锁大师”，用一根铁丝就能轻松解开看似坚不可摧的锁。这种方法不仅适用于GPT-3.5-turbo，还同样适用于更为先进的GPT-4模型。

▍谷歌如何“解锁”OpenAI的秘密？

谷歌的攻击方法核心在于针对模型的嵌入投影层（embedding projection layer），这是模型的最后一层，负责将隐藏维度映射到输出的logits向量。通过对API发出不到2000次的针对性查询，谷歌团队就能够提取出模型的嵌入维度或最终权重矩阵。

更为精彩的是，通过奇异值排序（Sorted Singular Values），研究人员能够直接识别出模型的隐藏维度，从而揭示出模型的“宽度”和更多全局性的信息。这种方法的高效和低成本令人叹为观止，仿佛打开了一个全新的AI“黑匣子”。

▍OpenAI的回应：从合作到反思

面对谷歌的这一行动，OpenAI的反应同样值得关注。在确认方法的有效性后，双方采取了积极的合作态度，最终决定删除所有与攻击相关的数据。这一过程中，OpenAI的开放和负责任的态度获得了业界的广泛赞誉。同时，这也促使OpenAI进一步反思，如何在未来更好地保护自己的模型不受类似的“侵扰”。

▍AI技术安全

这场事件像是一面镜子，映照出AI技术发展中的种种挑战与机遇。随着AI技术的不断进步，如何在推动技术开放与确保模型安全之间找到合理的平衡点，将是每一个AI从业者都需要面对的重要课题。

在未来，我们可能会看到更多类似的技术较量，但同时也会见证到AI安全防护措施的不断完善。正如这次谷歌与OpenAI的合作所展现的，只有通过不断的探索和合作，才能确保AI技术在安全的同时，也能持续地为人类社会带来更大的价值。

▍万人一亿计划正在准备中

国家大力支持AI，AI自带流量，入场越早越早赚钱，这是毋庸置疑的。

​

如果你对我们的文章感兴趣，不妨关注我们，一起学习AI，提升自己。

▍AI免费开始：https://hkyutong.cn

GPT-4 全家桶采购、AI企业战略系统、技术支持尽在：https://hkgpt.shop

🎈加入我们：分享你的AI故事