巴西两名律师试图通过隐藏提示词操纵法院 AI,被罚 1.6 万美元
巴西一家劳工法院对两名律师处以约 1.6 万美元罚款(IT之家注约合 10.7 万元人民币),因他们在提交的诉状中用白底白字嵌入提示词注入指令,试图让法院 AI 对诉状仅做表面处理、不质疑内容。
法院文书进入 AI 处理流程后,文档本身成了被攻击入口,隐藏提示词注入已被司法当作可处罚的不当行为。
- 影响企业用 AI 处理外部来文的场景存在同类注入风险,审核需覆盖人眼不可见的隐藏内容;司法已对操纵 AI 的行为处以罚金并通报执业机构,用此类手段的代价有了明确先例。
- 参考可考虑排查用 AI 处理外部提交文档的流程,加入对白底白字、异常排版间距等隐藏文本的检测;值得在内部规范中明确禁止在提交给 AI 的材料中植入操纵性指令。