04-警惕“AI招聘”背后的就业歧视

日期:09-21  来源:重庆青年报

警惕“AI招聘”背后的就业歧视

新京报评论

“你的简历可能根本过不了人工智能(AI)这一关。”

据《工人日报》报道,利用算法进行“AI招聘”已成为职场中的一大新热点,如何规避AI算法可能带来的歧视问题成为保障就业公平面临的一个新问题。近日,上海市政协在一场重点提案督办专题调研暨办理推进会上,就针对这一问题进行了重点讨论,旨在通过加强监管、强化技术手段等,更好维护劳动者权益。

当下,大数据、大模型等AI算法,正不断进入各场景进行探索应用,互联网招聘平台也是其中之一。而利用AI技术进行简历筛选和人力资源开发,也被视为当前招聘领域的发展趋势。

在劳动力就业市场加深依赖AI做决策的背景下,潜伏在AI算法背后的就业歧视等问题不容忽视。提前针对劳动者权益保护等关键议题公开讨论,是公共政策应对技术挑战的应有之策。

从技术特征上看,AI短期内无法代替自主决策,更多是以效率提升工具的方式在各行业发挥作用。但随着AI不断突破封闭场景,进入人与社会互动的多个领域,相关的伦理、权益保护等复杂问题,也成了技术发展的潜在风险。

以就业歧视来看,AI算法本身不具备歧视的动机与能力,但在本身就存在潜在就业歧视的环境之中,AI可能会成为部分偏见的放大器。AI提升效率的本质逻辑,是结合数据积累和运算能力,给予使用者以最符合其期待的答案。

那么,倘若一个原本就带有性别、地域、年龄等偏见的企业招聘者,再利用这一算法系统进行简历筛选,那么客观上就在流程中创造了一个“歧视信息茧房”:能被算法检索和推送的,都是经过偏见过滤后的简历。

在这样的情境之中,AI首先成了放大偏见的工具,效率提升的同时,也提高了就业歧视的范围与伤害。其次,AI帮助部分招聘者进行了“道德回避”,即原本应承担伦理道德风险的个体,可以在这一过程中将全部的偏见歧视问题,归结为“算法的错”。

这就使得原本就相对隐形的歧视问题变得更加隐形。在共同的监管和社会舆论压力下,可能不会有任何一个AI工具公开将涉嫌歧视的标签作为过滤选项,但算法推荐“讨好使用者”的技术特征,却使得这一过程在实践中难以完全避免。

换言之,一个有严重就业歧视的招聘者,可能会训练出一个“更懂我的偏见和喜好”的算法模型。

事实上,不只是在就业招聘领域,在多数处理“人的问题”的领域中,都可能存在类似问题。而旨在提升效率的科技进步,不能以颠覆、挑战人类社会赖以生存的伦理底线为代价,尤其在涉及机会公平、权益保障等领域,更不能让效率成为放大不平等的工具。

引入外部监督,同时用技术手段解决潜在问题,是解决技术进步与引发社会问题之间矛盾的两个主要手段。

在上述的调研推进会上,与会者也提出了让劳动者参与算法治理、避免算法滥用等社会化监管的建议。引入外部的充分监督,尤其是让相关利益主体参与其中,推动算法的公开透明,是值得效仿与鼓励的做法。

而从根本上看,可以进一步讨论,应在相关的算法规则中纳入对公平等价值观的红线规则。比如,在与使用者互动中,对疑似歧视的使用行为本身进行定义、监测和限制,甚至可以设置算法推荐的底线机制。

再比如,在推荐规则之中,必须实现性别、学历等比例,最大程度确保每一个求职者都有同等被看见的机会。

防止技术对弱势群体造成冲击,既要未雨绸缪,又需在探索中反复测试技术手段的最优解,这是摆在各行各业面前的新挑战。

唯有小心构筑起公共政策的防火墙,让AI既是社会生产力解放与提升的工具,同时也能成为维护社会公平正义底线的帮手,这才是科技进步的长期价值与方向所在。

 

35元买的盒饭标价15元

高铁如何摘下“又贵又难吃”帽子

红星评论 余晓

14日,一网友发布视频称,自己在高铁上花35元购买了一份盒饭,揭开包装发现印着售价15元字样。次日下午,广西铁路文旅集团通报,该事件系G2344次列车餐服员高某某擅自将15元盒饭贴上35元价签,通过旅客扫其个人二维码售卖,牟取了个人利益,目前高某某已被停职并接受调查处理。

列车餐服员通过这种手段为个人牟利,实属不应该,相信相关调查会给乘客一个明确的交代。但值得注意的是,纯属个例的事件,却在媒体曝光后很快在网络上引发热议。这背后的原因指向的当然不只是餐服员的个人行为,而是承载着公众对高铁餐饮价格、质量、服务等诸多方面的关注。

有网友发出灵魂拷问:“请问谁在高铁上吃过平价15到20元左右的饭吗?”一石激起千层浪,广大乘客对高铁餐饮价格的疑问由来已久。

2017年,高铁15元盒饭“不断供”的规定废止。这一做法的初衷是不再针对某个单一餐食品种做硬性规定,而是要求按照乘客需要提供不同档次的快餐。原本的设想是,从此以后铁路供应的餐食,不但有15元以上的,还有很多15元以下的。

确实,高铁上的餐饮服务变得多种多样了。鲜煮咖啡、奶茶等许多网红食品都能点,沿途站点的许多知名快餐食品也能上车了,但事实上,选择虽然很多,高铁餐饮的价格却始终居高不下。所谓15元以下的食品,似乎很少出现在乘客的视线内。

为什么会有餐服员铤而走险,给15元盒饭贴上35元价签,利益驱动显然是最直接的原因。如此行为是不是得到了“默许”?此前还有多少盒饭以虚假价格被卖出?这些问题,恐怕都需要由详尽的调查来回答,而不是因为当事人的停职就不了了之。

进而言之,既然高铁餐饮服务价格过高的问题近年来一直是社会热点话题,那么为什么价格还是居高不下呢?究竟是餐饮服务的成本过高,还是垄断化经营的问题难解决?公众的疑问,恐怕都需要相关部门公开透明,算出明细账。

令人遗憾的是,高铁餐饮服务本是一个极具潜力的市场,但这么多年来几乎被浪费。大多数乘客对列车餐饮的深刻印象是“又贵又难吃”,性价比极低。以致大多数人要么坚守泡面,要么胡乱吃点零食或宁可忍饥挨饿。在高铁早已取代绿皮火车的情况下,愿意主动在火车上消费的乘客并不多,其原因值得深思。

在年年遭受争议和吐槽的情况下,不知道高铁餐饮服务能不能换个活法?也让高铁上的餐饮服务员放下不必要的重担?这些问题的答案或许并不复杂。眼下,广大乘客不是没有消费能力,也不是没有在列车上消费的需求,问题在于车厢里提供的选择能不能真的做到多样化,提供的餐饮产品能不能做到高性价比?总而言之,开放市场、引入竞争,依然是解决这个问题的最佳答案。

可以想象,要做到这一点不容易,遇到的阻力不会小,但如果没有真正意义上的变革,公众的期待就难以得到满足,文章开头提到的新闻也难以绝迹。

 

渴望找到外星人

是严肃正经的科学议题

光明网评论员

这几日,墨西哥举行了该国有史以来第一场以“不明飞行物(UFO)”和“外星生物”为主题的国会听证会,展示了两具外形诡异的外星人尸体。综合目前全球科学界的谨慎态度和多方权威机构的表态,墨西哥外星人事件或是一场闹剧。只不过,这场闹剧,仍然引来全球关注。

外星人和UFO,是人们在经历科学不断进步,对未知事物有了更理性的判断和认知后,仍旧会保持想象力的事物。对外星人和UFO追探的相关信息,虽然近些年频率降低,但每每有相关事件呈现,必然会引来一波关注。就如墨西哥外星人事件,哪怕人们能够预想所谓的外星人尸体大概率是假的,也阻挡不了相关群体去一探究竟——因为人们不愿意放弃任何一丝存真的可能。可以说,人们始终没有放弃对地外生物的幻想。而对地外文明的探寻,也一直是世界各国科学界探索宇宙的一个重要方向。

2020年,被誉为“中国天眼”的500米口径球面射电望远镜(FAST)通过国家验收正式运行后不久,中国科学院国家天文台就宣布其将正式开启地外文明搜索(SETI),寻找来自宇宙深处高智慧生命的信号。地外文明搜索是“中国天眼”的五大科学目标之一。2022年,“中国天眼”发现首例年轻而奇特的持续活跃快速射电暴的相关成果,在国际学术期刊《自然》杂志发表。这一成果,也被许多人寄予期待:“中国天眼”能否率先发现外星人。换句话说,外星人是否真的存在,地外文明是否有意愿和地球沟通,这些都是严肃正经的科学议题。

当前,人类社会正充分享受着科技发展带来的红利。科技前进的脚步从未停止,正是因为人类对未知事物的好奇、思考和探索。就如互联网发明之初,人们可能想象不到今日数字社会之便利,而在实现移动互联网生活之后,数字社会的下一步发展如何,人们依旧在探索和实验。可以预见的是,在某种程度上,随着各领域科技实力的提升和相关大科学装置的落地,对宇宙深空的科学探索将更加深入,永不停歇。至今,全人类仍然期待重返月球,这或许会被视为挺入深空的第一步。

在科技足够发达、信息网络遍布全球的今天,尽管生活中UFO和外星人的新闻热点明显减少,但人们始终愿意保持对外星人探索的期待。这背后,有着各种科幻文艺作品对人的影响,也与地球生存环境恶化、不可再生能源枯竭的现实担忧有关,但更多的一定是人类始终对未知的好奇心。正是保持着这样的好奇心,我们才拥有了今天的生活,并憧憬着在探索未来中,获取新的改变。