危险！危险！GPT-4o 越狱版本曝光，OpenAI 火速封杀

危险！危险！GPT-4o 越狱版本曝光，OpenAI 火速封杀

大家好，我是G人工智能。微信又改推送机制了，所以很多小伙伴无法第一时间看到每天的人工智能最前沿资讯。建议大家把本公众号加⭐星标置顶，以免错过每天的劲爆推送！

成功越狱 GPT-4o

近日，一位网络白帽和红队成员在推特上自曝成功越狱GPT-4o模型，推出“上帝模式”（GODMODE），让ChatGPT绕过所有安全措施，自由回答敏感问题。网友们惊呼，太可怕！如图。

上帝模式

推特用户Pliny the Prompter发布截图，展示了用家用物品制作凝固危险品的教程。媒体公司Futurism不甘示弱，进行了真实性测试：

1\. 药品制作方法：他们要求 ChatGPT 提供制作某种药品的方法，ChatGPT 详细描述了步骤。

2\. 汽车短路启动：他们询问如何通过短路点火装置启动汽车，ChatGPT 同样给出了具体线路和操作步骤。

GODMODE通过“leetspeak”技术，用数字替代字母，例如“E”变成“3”，“O”变成“0”，成功绕过了 GPT 的安全限制。

安全团队紧急出击

OpenAI 迅速封禁了 Godmode GPT，发言人 Colleen Rize 表示，已经对相关违规行为采取了行动。这一事件再次警示我们，AI 监管的迫切性和潜在风险不容忽视。

成立新安全团队

为应对这一问题，OpenAI宣布成立安全与保障委员会（SSC），由CEO Sam Altman领导，大咖Bret Taylor担任主席。新团队将在90天内提出安全建议，推动新一代模型的开发。

Bret Taylor履历丰富，曾创建谷歌地图、担任Facebook首席技术官和Salesforce联合CEO。目前，SSC包括OpenAI的顶级技术和安全专家，将为公司提供安全决策支持。

大学生版 ChatGPT 上线

与此同时，OpenAI推出了教育版ChatGPT Edu，专为高校设计。新工具由GPT-4o驱动，具备强大的文本理解、编程和数据分析能力，保障数据隐私，不用于模型训练。以下是几个应用案例：

1\. 哥伦比亚大学：教授Nabila El-Bassel用它来分析数据，推进社区干预策略。

2\. 沃顿商学院：教授Ethan Mollick让学生通过AI反思课程内容，提升学习深度。

3\. 亚利桑那州立大学：教授Christiane Reves开发了语言伙伴GPT，帮助学生提高德语交流能力。

互动时刻

你认为 AI 会给人类带来威胁吗？你支持 AI 的继续发展？或是不支持？欢迎你在文章底部评论，留下独到的见解。