我在深圳一家互联网公司做HR，最近我们技术部门上了个AI简历筛选系统，说是能提高效率。但用了两周，我总觉得不太对劲。
我们公司程序员岗偏多，AI筛出来的人选里，男性比例特别高，女性简历明明条件差不多，排名却靠后。还有几个名字听起来像少数民族的候选人，我特意看了下他们的简历，经验和技能都不错，但系统打分很低。我怀疑是不是算法有偏见，但技术那边说AI很客观，不可能有歧视。
我自己的感觉是，这个AI可能是拿公司以前的数据训练的，我们公司本来就男多女少，所以模型学会了“偏好”男性。而且培训数据里可能缺少少数民族样本，导致他们被低估。但我不确定这是不是真的歧视，还是我多想了。
这种AI筛简历的歧视风险到底怎么判断？有没有什么法律法规规定？万一真有问题，我们公司会不会被告？我也怕如果我不提，以后出事了担责任；提了又怕得罪技术部门。哎，挺烦的。