我们公司人不多,两百来号,做企业培训的。上个月技术那边接了个 AI 筛简历的东西进来,说是能自动打分排优先级。以前我筛两百多份要看两个下午,现在半小时给我出个名单,刚开始还挺高兴。 但这周出了个事让我有点坐不住。有个 38 岁的候选人,在同行做了十几年,经历特别对口,我手动把他标了通过,系统给的分数还是排在倒数的位置。还有一个姑娘,学校一般但作品集很好,也被压到后面去了。我把这两个捞回来又看了一遍,越看越觉得不对劲。 我就想问问,这种 AI 打分它到底看的是什么。会不会它自己...
我们公司人不多,两百来号,做企业培训的。上个月技术那边接了个 AI 筛简历的东西进来,说是能自动打分排优先级。以前我筛两百多份要看两个下午,现在半小时给我出个名单,刚开始还挺高兴。
但这周出了个事让我有点坐不住。有个 38 岁的候选人,在同行做了十几年,经历特别对口,我手动把他标了通过,系统给的分数还是排在倒数的位置。还有一个姑娘,学校一般但作品集很好,也被压到后面去了。我把这两个捞回来又看了一遍,越看越觉得不对劲。
我就想问问,这种 AI 打分它到底看的是什么。会不会它自己偷偷把年龄、性别、学校这些也算进去,那不就等于歧视吗。真到候诉我们的时候,责任算谁的。我是真不懂技术,问了技术总监他说模型是黑盒他也没法解释。有没有做过这块的说说,你们那边是留人工复核还是直接用系统名单。在线等,有点慌。
我也遇到过类似情况，感觉现在很多AI筛简历就是用关键词匹配和历史数据训练的，年龄之类潜在的偏见肯定在里面，只不过不是明说的那种。你说的那种“黑盒”我觉得就是技术难以解释的模型，有时候连做系统的都搞不清楚到底怎么给分的。我同事公司是AI先筛一波，再留人工复核，毕竟人能感知很多复杂因素，有些简历AI看不出来价值或者背景的。你要是不放心，建议坚持人工最后把关，毕竟责任还是得人背。反正我现在看到AI直接定命运很慌，还是得留个“人情味”……
