今天上午局里开会说要上线AI智能客服，以后市民打12345先和机器人对话。领导说效率高省人力，但我心里总不踏实。 我们科室负责市民投诉信息，里面都是身份证号、家庭住址、工资流水这些。AI客服系统要对接我们数据库，那这些数据是不是都会被它读走？我搜了下新闻，有说AI会偷偷上传数据训练的，也有说加密好的。但具体怎么保证不被滥用？ 还有市民问的问题如果涉及隐私，AI答错了或者乱记，责任算谁的？我今天问了技术科同事，他们就说“有安全方案”，但也没给细则。 哎，我在窗口干了十几年，最怕...
今天上午局里开会说要上线AI智能客服，以后市民打12345先和机器人对话。领导说效率高省人力，但我心里总不踏实。
我们科室负责市民投诉信息，里面都是身份证号、家庭住址、工资流水这些。AI客服系统要对接我们数据库，那这些数据是不是都会被它读走？我搜了下新闻，有说AI会偷偷上传数据训练的，也有说加密好的。但具体怎么保证不被滥用？
还有市民问的问题如果涉及隐私，AI答错了或者乱记，责任算谁的？我今天问了技术科同事，他们就说“有安全方案”，但也没给细则。
哎，我在窗口干了十几年，最怕的就是群众信息从我手里漏出去。有没有懂行的说说，这种政务AI真要上线，我们一线人员该注意啥？
我看了也挺不踏实的，AI客服要是真能读投诉里的身份证和流水，那数据泄露的风险肯定比人工高。建议你们科先要求技术科出个数据流向说明，别光听一句“有方案”就上线，不然真出事大家都要背锅。
我也担心这个啊，单位一说换AI客服我就觉得不对劲。那些身份证、住址什么的以前都是我们手动核的，现在全交给机器，谁知道它后台怎么存、会不会拿去训练。技术科那句“有方案”听着就虚，咱这种窗口的还是自己多留个心眼，别全信。
哎，同款担心。我在社区干过，最烦这种“数据加密”但不说细节的。建议你盯紧一点：要求技术科明确哪些字段AI能读到、谁有权限导出对话日志。不给书面说明就往上反映，别出事才追责。
