我们公司人不多,两百来号,做企业培训的。上个月技术那边接了个 AI 筛简历的东西进来,说是能自动打分排优先级。以前我筛两百多份要看两个下午,现在半小时给我出个名单,刚开始还挺高兴。 但这周出了个事让我有点坐不住。有个 38 岁的候选人,在同行做了十几年,经历特别对口,我手动把他标了通过,系统给的分数还是排在倒数的位置。还有一个姑娘,学校一般但作品集很好,也被压到后面去了。我把这两个捞回来又看了一遍,越看越觉得不对劲。 我就想问问,这种 AI 打分它到底看的是什么。会不会它自己...
我们公司人不多,两百来号,做企业培训的。上个月技术那边接了个 AI 筛简历的东西进来,说是能自动打分排优先级。以前我筛两百多份要看两个下午,现在半小时给我出个名单,刚开始还挺高兴。
但这周出了个事让我有点坐不住。有个 38 岁的候选人,在同行做了十几年,经历特别对口,我手动把他标了通过,系统给的分数还是排在倒数的位置。还有一个姑娘,学校一般但作品集很好,也被压到后面去了。我把这两个捞回来又看了一遍,越看越觉得不对劲。
我就想问问,这种 AI 打分它到底看的是什么。会不会它自己偷偷把年龄、性别、学校这些也算进去,那不就等于歧视吗。真到候诉我们的时候,责任算谁的。我是真不懂技术,问了技术总监他说模型是黑盒他也没法解释。有没有做过这块的说说,你们那边是留人工复核还是直接用系统名单。在线等,有点慌。
这类“AI筛简历/自动打分”可以上，但不要当成“一票否决”。结论放两点：1) 在招聘环节将其定位为“排序与去重”的工具，始终有人审兜底；2) 建立可解释与申诉机制，明确禁用会引发偏见的特征作为淘汰依据（如年龄、性别、婚育等），并在候选人侧给出人工复核通道。适用范围：中小企业内招、第三方 ATS/插件、通用或定制模型。
建议先做“小样本对照验证”：抽取你已判定为“强匹配/弱匹配”的各20份为黄金集，盲评对比 AI 命中率与漏判类型，记录误差原因，用于配置权重与制定抽检阈值。
正常做法 vs 高风险做法
就“法律定性与争议应对”，不同地区与具体案情会有差异，建议在落地制度前咨询本地具备劳动用工与数据合规经验的律师，结合你们的岗位结构与系统配置做一次性评估与留痕。
为可控与可举证，建议形成“治理三件套”并走内审：
可参考监管与央媒对就业公平、算法治理的关注方向，完善内控要求。例如国家网信办就算法治理与个人信息最小化有持续发布与执法信息，可关注其官方网站动态以把握合规趋势与口径：国家网信办。关于就业公平与算法偏见的社会导向与舆论关注，可参考央媒评论立场：人民网、新华网。
| 维度 | 安全做法 | 不安全做法 |
|---|---|---|
| 特征使用 | 去敏后仅用技能/项目/成果要素 | 直接或间接使用年龄/性别/院校强权重 |
| 决策方式 | AI 排序+人工复核兜底 | 低分一票否决、无申诉 |
| 解释与记录 | 输出特征贡献、留审计与配置快照 | 黑盒无解释、无日志 |
| 数据回灌 | 纠偏样本回灌与权重微调 | 只喂历史录用数据放大偏见 |
风险识别与合规提示：本文提供的是招聘流程与数据治理层面的通用建议，不构成法律意见。涉及是否构成就业歧视、争议处理与举证责任的具体结论，应结合你们的制度、实际操作留痕与当地监管口径，由具备劳动用工与数据合规经验的律师评估后确定。
我也遇到过类似情况，感觉现在很多AI筛简历就是用关键词匹配和历史数据训练的，年龄之类潜在的偏见肯定在里面，只不过不是明说的那种。你说的那种“黑盒”我觉得就是技术难以解释的模型，有时候连做系统的都搞不清楚到底怎么给分的。我同事公司是AI先筛一波，再留人工复核，毕竟人能感知很多复杂因素，有些简历AI看不出来价值或者背景的。你要是不放心，建议坚持人工最后把关，毕竟责任还是得人背。反正我现在看到AI直接定命运很慌，还是得留个“人情味”……
我们公司也踩过这个坑。说实话，"黑盒模型"这个回答真的不能接受，技术总监要是这么甩锅的话，你们早晚得出事。
问题就在于，即使系统没有显式地输入年龄和学校这些字段，它也有可能从工作时间、学位时间这些信息反推出来。比如一个人说自己做了十几年，系统就能推出大概年纪，然后在打分时"无意中"压低了分数——这不是故意歧视，但结果等同于歧视，法律上一样站不住脚。
我的建议是，短期内所有进入面试环节的候选人，不管系统打分多低，都要有人工复核这一关。不是说完全不信系统，而是系统的排序可以参考，但最终决定权必须在你手里。这样万一真有纠纷，你也能说清楚是人工判断，而不是被算法决定了。顺便建议问技术那边要个解释文档，哪怕特别简略，至少有个东西在，总比"我也不知道"要强。
