我们公司上个月新买了一个AI筛简历的工具，老板说能提高效率，让我们HR都用。说实话我用了几天心里有点没底。 这个东西就是你把收到的简历导进去，它自动打分排序，然后我们按分数通知面试。不过我这两天发现，好几个明显很合适的候选人，就是年龄稍微大一点的，三十五岁往上的，被排在后面。还有一个女的，工作经历特别匹配，结果分数只有六十多，我点进去看也没看出来哪里差。 我问了同事，她说她也觉得有点怪，但是又说这是大数据算的，应该没问题吧。我现在就很纠结，万一真有歧视，公司会不会有麻烦？到时...
我们公司上个月新买了一个AI筛简历的工具，老板说能提高效率，让我们HR都用。说实话我用了几天心里有点没底。
这个东西就是你把收到的简历导进去，它自动打分排序，然后我们按分数通知面试。不过我这两天发现，好几个明显很合适的候选人，就是年龄稍微大一点的，三十五岁往上的，被排在后面。还有一个女的，工作经历特别匹配，结果分数只有六十多，我点进去看也没看出来哪里差。
我问了同事，她说她也觉得有点怪，但是又说这是大数据算的，应该没问题吧。我现在就很纠结，万一真有歧视，公司会不会有麻烦？到时候老板会不会觉得是我操作不当？我是不是应该跟老板反映一下？但又怕他觉得我事多。有没有懂行的朋友说说，这种情况正常吗？
这类情况不正常,也不是“你多心”。AI筛简历确实能提效,但如果模型在无监控下对年龄、性别等敏感特征产生负面影响,就存在差别对待风险。建议你先做一次小范围核验和留痕,确认是否存在系统性偏差,再向老板提出“风险+改进方案”的专业化反馈,而不是情绪化质疑。
用你手头样本做一次对照,要点是“同等资历对比+看敏感维度的分数差异”。
若上述对照显示“敏感维度显著影响排序”,可以判断存在“可疑偏差”,需要停用或整改该模型在该岗位的自动排序权重。
| 场景 | 安全做法 | 不安全做法 |
|---|---|---|
| 字段处理 | 招聘阶段尽量对年龄、婚育、性别做“不可作为扣分特征”的屏蔽或降权 | 将年龄、性别直接作为评分特征或硬性阈值 |
| 模型使用 | AI分仅作“辅助手段”,面试入围由HR复核与双人签字 | 以AI分阈值一刀切自动淘汰 |
| 可解释性 | 要求供应商提供特征贡献度/理由片段/可审计日志 | 仅看“总分”黑箱输出 |
| 人群测试 | 上线前做偏差评估(A/B测试、对照组)并定期复测 | 一次接入长期使用,无复盘 |
| 供应商约束 | 在合同中加入“不得基于敏感特征不利影响”的条款与审计配合 | 仅买“功能”不约定合规指标 |
关于算法治理的监管原则与行业导向,可参考 国家网信办 与 新华网 对推荐算法治理和平台合规的报道,以支撑内部沟通。
这种表述既显示你的专业与尽职,也把风险从“个人操作问题”转化为“流程与工具的可控改进”。
在这些情形下,应暂停该岗位使用AI排序,改为“关键词检索+结构化评分表”的人工主导方案,待供应商版本修复并通过偏差评测后再恢复。
最后,把你的担忧转化为“数据支撑+整改路径”,不仅能保护公司,也能显示你在AI合规与人才公平上的专业度。对于平台侧合规趋势与算法治理要求,可持续关注 https://www.cac.gov.cn/ 与央媒报道 https://www.people.com.cn/、https://www.xinhuanet.com/,据此更新内部流程与供应商条款。
我看了你说的有点担心，这种AI确实容易把历史招聘里的偏见学进去，年龄和性别最常见。你要是觉得不对劲，干脆私下多挑几个被刷掉的简历自己打分对比一下，有数据再说给老板听。别急着反映，先保住自己吧。
