职场中的AI并非总是“智能”

新冠疫情迫使雇主认真思考自己有多信任员工。去年,许多公司不得不实施远程办公,如果不是疫情,这种规模的远程办公是它们无法想象的。许多雇主感到十分惊喜。他们发现可以相信员工居家办公不偷懒。事实上,研究表明,居家办公的人非但没有悠闲度日,反而要比以往投入更多时间。

但其他雇主却不愿放手。看不到员工让这些雇主感到害怕,他们惊慌失措地购买了监控员工的软件,其中很多软件声称能够通过人工智能(AI)监控违规行为并衡量工作效率。承诺能够让居家办公人员遵守规则的云系统市场正在蓬勃发展。一些软件,如Controlio,提供“隐身模式”,令“用户完全看不到该系统——工具栏中没有图标,任务管理器里也不显示进程。”(Controlio告诉我,它还提供一种限制数据收集的“《通用数据保护条例》(GDPR)合规模式”,以及一个警告员工他们正被监控的选项。)

随着AI迅速但悄然地进入人们的家中,欧盟(EU)近期及时公布了有关如何在一系列不同场景中使用AI的规则草案。拟议规则规定,用于“招聘和选拔人才、决定晋升和解雇、分配任务、监控或评估工作相关合同关系中的人员”的AI应被列为“高风险”。“高风险”AI系统的提供商将必须履行某些义务,比如提供有关系统如何工作的明确信息,使用高质量的数据集,并允许人工监督。

布鲁塞尔方面将职场中的AI列为有风险是正确的。雇主和员工之间往往存在巨大的权力不平衡,尤其是在没有集体协商机制的公司。如果你想获得或保住一份工作,你可能会同意一些本来会让你感到不适的事情。

工作中发生的事情也会对你的生活产生很大影响,反之亦然。我与一位受AI监控的美国呼叫中心员工交谈时,她不懂为什么算法给她的评价很差,而她的人类主管给她的评价总是很好。她怀疑AI不适应她的口音,但她对此无能为力。AI的评级影响了她的奖金,而奖金在她的月收入中占据很大一部分。工作与家庭之间模糊的界限是认为在职场使用AI可能会出现问题的另一个原因。例如,国际工会联合会“全球工会联盟”(UNI Global Union)发现,被AI网络摄像头监控的居家办公的呼叫中心员工数量大幅增加。

这并不是说办公场所的所有AI都有问题。人类管理者常常做出有偏见的决定。AI也许可以帮助他们更好地雇用多元化员工团队、根据业绩而非偏好来提拔员工。但员工应该有权知道何时使用了AI,知道AI宣称的运作方式是怎样的,并能够对它的判断提出申诉。在你的工作面临威胁时,“电脑认为不行”不是个充分理由。

增强透明度也许还有助于阻止所谓AI“神油”的传播。AI“神油”是比利时劳动法教授瓦莱里奥•德斯特凡诺(Valerio De Stefano)的说法,指的是市场上一些宣称运用了AI、但其实与AI毫无关系的产品。例如,许多所谓的AI系统声称能计算员工的个人“生产效率分数”,但AI外壳底下的真实衡量标准非常基础,比如一个人的邮件发送频率(我个人认为,这是真正生产效率的反面指标)。员工不应在常常替代合理管理的伪科学评估中充当小白鼠。

但是最近草拟的欧盟监管规定也许还不能匹配这一挑战。AI系统提供商有责任在一开始就评估自身的合规性。同时,欧盟成员国要委任一个国家级机构“监督(法规的)应用和实施”,并提供“市场监督”。德斯特凡诺表示:“自我评估不是笑话,没有人会说它毫无作用,但这在职场上也许还不够。”他还表示,这些法规不能成为欧盟内部新的监管天花板,因为法国、德国等国家已经采取进一步措施,以遏制某些类型的监控。

欧盟关于如何保护员工免受智能机器带来的风险的担忧是对的。但更重要的是,要保护员工免受愚蠢机器带来的风险。

译者/何黎