简介
AI办公也会出错,尤其「幻觉」最危险。本文汇总高频错误(数据错、编造、泄密)及对应防护,帮你安全用好AI。
AI办公省时,但也会「一本正经地出错」。提前知道这些坑,你才不会被坑。
一、数据幻觉
AI可能编出不存在的数字、条款、人名。防护:所有金额、法律、事实类内容,必须人工核对原始来源。
二、编造引用与链接
让它「找依据」时,它可能编出假文献。防护:要求它只基于你提供的内容作答,不自行虚构出处。
三、信息泄露
把客户名单、薪资表贴进公共AI,等于公开。防护:敏感数据脱敏后再用,或选支持私有部署的工具。
四、过度信任自动化
Agent自动发了错误邮件悔之晚矣。防护:首次跑设「人工确认」,关键动作加闸门。
小结
把AI当会犯错的实习生:它出活快,交稿你要审。养成「生成—核对—使用」习惯,风险可控。下一篇我们看隐私安全。
