← 返回洞察
AI 与法律
提示注入攻击:安全漏洞也是合规义务
提示注入可让 AI 泄露数据或执行非预期操作,防护不足可能构成安全义务的违反。
提示注入是 AI 特有的安全风险:攻击者通过精心构造的输入操纵模型泄露数据或执行非预期操作。这既是安全问题,也可能是合规问题。
若因防护不足导致个人数据泄露,可能触发数据安全义务与通知责任。
务实做法是将提示注入纳入安全测试与红队演练、对代理类功能限制权限、并保留防护与响应记录作为尽责证据。
提示注入可让 AI 泄露数据或执行非预期操作,防护不足可能构成安全义务的违反。
提示注入是 AI 特有的安全风险:攻击者通过精心构造的输入操纵模型泄露数据或执行非预期操作。这既是安全问题,也可能是合规问题。
若因防护不足导致个人数据泄露,可能触发数据安全义务与通知责任。
务实做法是将提示注入纳入安全测试与红队演练、对代理类功能限制权限、并保留防护与响应记录作为尽责证据。