AI 打败 AI：谷歌研究团队利用 GPT-4 击败 AI-Guardian 审核系统

谷歌 Deep Mind 团队正在进行一项实验，他们使用 OpenAI 的 GPT-4 来攻破其他 AI 模型的安全防护措施，该团队目前已经攻破 AI-Guardian 审核系统，并分享了相关技术细节。

AI-Guardian 是一种 AI 审核系统，能够检测图片中是否存在不当内容，及图片本身是否被其他 AI 修改过，若检测到图片存在上述迹象，便会提示管理员前来处理。

谷歌 Deep Mind 的研究人员 Nicholas Carlini 在一篇题为“AI-Guardian 的 LLM 辅助开发 (https://arxiv.org/pdf/2307.15008.pdf)”的论文中，探讨了使用 GPT-4“设计攻击方法、撰写攻击原理”的方案，并将这些方案用于欺骗 AI-Guardian 的防御机制。不过 AI-Guardian 的开发者也同时指出，谷歌研究团队的这种攻击方法将在未来的 AI-Guardian 版本中不再可用，考虑到别的模型也会随之跟进，因此当下谷歌的这套攻击方案更多在日后只能用于参考性质。