影子 AI：员工把客户文件粘贴进免费聊天机器人，会发生什么

问一家小型机构的负责人，员工用不用 AI，答案通常是“不怎么用”。去问员工，答案通常是“每天都用”。这个落差有个名字：影子 AI，即使用机构从未批准、部署或审查过的 AI 工具。

这不是纪律问题。大家之所以用免费聊天机器人，是因为它们确实有用：一封杂乱的转诊信变成一封清晰的信函，一份四十页的宣誓书变成一页摘要，一封生硬的邮件变得得体。问题在于，随请求一起发出去的是什么。

文字实际上去了哪里

当有人把一份文件粘贴进面向个人用户的聊天机器人时，文字会被发送到服务商的服务器，而大型服务商的服务器大多位于澳大利亚境外。视产品和账户设置而定，这些内容可能会：

• 保存在用户的聊天记录里，而这是个人账户，机构既看不到也删不掉；
• 被服务商为监控滥用而保留，有时长达数周；
• 被用于改进未来的模型，除非有人找到并关闭了相应的设置；
• 在某些情况下由服务商的员工或外包人员查看。

这些都谈不上居心不良，服务条款里写得清清楚楚。但同意这些条款的并不是机构，而是某位员工，在午休时用自己的手机点了同意。

三个寻常的例子

以下为示例场景，并非真实事件，但在机构里工作过的人都会觉得眼熟。

• 一位前台整理转诊信时，把患者的姓名、Medicare 卡号和病史粘贴了进去。健康信息就此被披露给了一家海外公司。
• 一位初级律师上传了一份家事法宣誓书，想快速生成一份时间线。保密的、可能受特权保护的材料已经离开了事务所。
• 一位记账员让聊天机器人起草一封客户邮件，邮件里包含收入数字和税号（TFN）。

为什么这很重要

对于受联邦《1988 年隐私法》（Privacy Act 1988 (Cth)）约束的机构（所有医疗服务提供者无论营业额多少都受其约束），以下几条澳大利亚隐私原则（APP）会立即适用：

• APP 6 限制将个人信息用于或披露于收集目的以外的用途。
• APP 8 规范个人信息的跨境传输。在许多情况下，海外接收方如何处理这些信息，机构仍需承担责任。
• APP 11 要求采取合理措施保护您所持有的信息。

澳大利亚信息专员办公室（OAIC）在其 2024 年关于商用 AI 产品的指引中也表达了同样的意思，建议各机构不要将个人信息，尤其是敏感信息，输入公开可用的 AI 工具。各专业机构也有类似表态，例如维多利亚州法律服务委员会（Victorian Legal Services Board）就提醒律师，不要把客户的保密信息放进公共 AI 聊天机器人。

对律师来说还有第二层问题。保密是一项职业义务，把受特权保护的材料放到事务所无法掌控的地方，就会引发特权是否依然存在的争议。

为什么禁令很少奏效

本能的解决办法是在政策里写一句：“禁止使用 AI。”这往往会失败，原因和影子 IT 一向难以杜绝一样：这些工具很有用，人人手机上都有，而且没人看得到谁在用。禁令多半只是把使用转移到更隐蔽的地方。

更有效的，是一套朴素的组合做法：

1. 先弄清实际情况。以不追责的方式问问员工，他们在用哪些工具、用来做什么。答案通常都是您乐于支持的工作：写信、做摘要、改写措辞、列清单。
2. 给他们一个同样好用的认可工具。如果获批的工具更慢或更差，大家就会慢慢回到老路上。
3. 写一份简短、具体的政策。一页纸即可：批准使用哪个工具，哪些内容绝不能放进其他任何工具，有疑问找谁。
4. 一个月后回访。看看获批的工具有没有人用，以及大家仍然去别处做哪些事。

“认可的工具”可以是什么样

合理的选择有好几种，哪种合适取决于机构本身。主流云端工具的企业版在训练和数据保留方面提供合同承诺，比个人账户进步了一大截。有些机构则更进一步，希望助手运行在自己掌控的硬件上，让客户和患者文件从不离开办公场所，最多只到澳大利亚境内的一台专属服务器。这正是我们采用的方式，但无论您选择哪条路，第一步，即了解员工已经在做什么，都值得去做。