日前，微软软件工程部门经理Shane Jones发现了OpenAI旗下的DALL-E 3模型存在漏洞，据称能够生成一系列不当内容。他向微软及OpenAI报告了这一漏洞，并在领英上发布公开信，认为该漏洞会对公众造成安全风险，并呼吁OpenAI在解决之前暂停DALL-E 3的使用。
然而，Shane Jones随后收到了来自微软法务部和高管们的警告，要求他立即删除领英公开信并停止对外披露任何内容，但并未给予解释说明。尽管如此，Shane Jones多次尝试与公司进行内部沟通，但都未得到回应。目前该漏洞仍未修复。
最近网络上出现了一些利用AI生成知名歌手Taylor Swift不雅照的相关事件，这些照片据说是由使用微软Designer AI功能所生成，并且底层模型正是DALL-E 3。因此，在这次事件中微软下达“封口令”的行为也被认为存在重大失误。
微软官方回应媒体时声称将解决员工们的疑虑，并修复相关漏洞。他们同时表示Shane Jones揭露的漏洞实际上成功率较低，无法绕过微软为模型设置的所有安全机制，并不确定该漏洞与Taylor Swift事件是否有关联性。
本文属于原创文章，如若转载，请注明来源：OpenAI DALL-E 3 模型存生成“不当内容”漏洞，一微软员工上报后反遭“封口令”https://news.zol.com.cn/854/8545533.html
