搜索
NFT元宇宙Web3
近期热门

微软计划取消人脸分析工具,推动负责任的人工智能

主编DOGE

这家技术巨头将停止提供预测一个人的性别、年龄和情绪状态的自动化工具,并将限制其面部识别工具的使用。

多年来,活动家和学者们一直在提出这样的担忧:声称能够识别一个人的年龄、性别和情绪状态的面部分析软件可能有偏见,不可靠或具有侵略性–不应该出售。微软承认了其中的一些批评,周二表示,它计划将这些功能从其检测、分析和识别人脸的人工智能服务中删除。这些功能将在本周停止向新用户提供,并将在今年内对现有用户逐步取消。这些变化是微软推动对其人工智能产品进行更严格控制的一部分。经过两年的审查,微软的一个团队制定了一个 “负责任的人工智能标准”,这份27页的文件规定了对人工智能系统的要求,以确保它们不会对社会产生有害影响。

这些要求包括确保系统提供 “有效的解决方案,以解决其设计的问题”,以及 “为确定的人口群体提供类似的服务质量,包括边缘化群体”。在发布之前,那些将被用来对一个人获得就业、教育、医疗保健、金融服务或生活机会做出重要决定的技术,要接受由微软首席人工智能负责官员Crampton 领导的团队的审查。

微软公司对情绪识别工具的关注度很高,该工具将某人的表情标记为愤怒、蔑视、厌恶、恐惧、快乐、中立、悲伤或惊讶。

Crampton 说:”在我们表达自己的方式上存在着大量的文化、地理和个体差异。这导致了对可靠性的担忧,以及更大的问题,即 面部表情是否是你内部情绪状态的可靠指标”。

Crampton 说,正在被淘汰的年龄和性别分析工具–以及检测头发和微笑等面部属性的其他工具–对于解释盲人或低视力人士的视觉图像可能是有用的,但该公司决定向公众普遍提供这些分析工具是有问题的。她补充说,特别是该系统的所谓性别分类器是二进制的,这与我们的价值观不一致。

微软还将对其人脸识别功能进行新的控制,该功能可用于进行身份检查或搜索某个特定的人。例如,Uber在其应用程序中使用该软件来验证司机的脸是否与该司机账户上的ID相符。想使用微软面部识别工具的软件开发商需要申请使用权,并解释他们计划如何部署该工具。

用户还需要申请并解释他们将如何使用其他可能滥用的人工智能系统,如自定义神经语音。该服务可以根据某人的语音样本,生成一个人类的声纹,例如,作者可以创建自己声音的合成版本,用他们不会说的语言阅读他们的有声书。

由于该工具可能被滥用–造成人们说了他们没有说过的话的印象–说话者必须经过一系列步骤,以确认使用他们的声音是被授权的,而且录音包括微软可检测的水印。

Crampton 说:”我们正在采取具体措施,以践行我们的人工智能原则,她在微软担任了11年的律师,并在2018年加入了道德人工智能小组,这将是一个巨大的旅程。”

位于华盛顿州雷德蒙的微软园区,该公司将对其人脸识别功能进行新的控制,该功能可用于执行身份检查或搜索某个特定的人。

像其他科技公司一样,微软在其人工智能产品方面也有过磕磕绊绊。2016年,它在Twitter上发布了一个名为Tay的聊天机器人,旨在从与之互动的用户那里学习 “对话理解”。这个机器人很快就开始发表种族主义和攻击性的推文,微软不得不将其删除。微软、苹果、谷歌、IBM和亚马逊对黑人的效果都不太理想。微软的系统是最好的,但对白人来说有15%的单词识别错误,而对黑人来说有27%。

该公司已经收集了不同的语音数据来训练其人工智能系统,但并不了解语言的多样性。因此,它从华盛顿大学聘请了一位社会语言学专家来解释微软需要了解的语言种类。它超越了人口统计学和区域多样性,进入了人们在正式和非正式场合的说话方式。

Crampton 说:”把种族看作是一个人说话方式的决定因素,实际上有点误导,我们在向专家咨询时了解到的情况是,实际上有大量的因素会影响语言的多样性。”

Crampton 说,修复这种语音与文字的差异的过程有助于为公司新标准中规定的指导意见提供信息。

“这是人工智能的一个关键的规范制定期,我们希望能够利用我们的标准,努力为需要进行的关于技术公司应该遵守的标准的光明而必要的讨论做出贡献。”指的是欧洲的拟议法规,对人工智能的使用制定规则和限制。关于人工智能的潜在危害的激烈辩论已经在技术界进行了多年,这些错误和误差对人们的生活产生了实际的影响,例如决定人们是否获得福利的算法。当一个有缺陷的算法对具有双重国籍的人进行惩罚时,荷兰税务部门错误地从有需要的家庭中拿走了儿童护理津贴。

识别和分析人脸的自动化软件尤其具有争议性。去年,Facebook关闭了其十年前用于识别照片中人的系统。该公司负责人工智能的副总裁指出,”人们对面部识别技术在社会中的地位有许多担忧”。

一些黑人男子在面部识别匹配有缺陷后被错误地逮捕。而在2020年,在明尼阿波利斯警察杀害George Floyd后发生的抗议活动,亚马逊和微软发布了暂停美国警方使用其面部识别产品的禁令,称需要有更明确的法律来规范其使用。

此后,华盛顿州和马萨诸塞州通过了法规,要求对警方使用面部识别工具进行司法监督。

Crampton 说,微软已经考虑过是否开始在有法律规定的州向警方提供其软件,但目前决定不这样做。她说,随着法律环境的变化,这种情况可能会改变。

普林斯顿大学计算机科学教授、著名人工智能专家Arvind Narayanan说,公司可能会从分析人脸的技术中退缩,因为它们更加直观,而不是其他各种人工智能,它们是可疑的,但我们不一定从骨子里感觉到。

他说,公司也可能意识到,至少在目前,这些系统中的一些并没有那么大的商业价值。 微软不能说它有多少用户在使用它正在取消的面部分析功能。Narayanan预测,公司不太可能放弃其他侵入性技术,如定向广告,它对人们进行剖析,以选择向他们展示的最佳广告,因为它们是摇钱树。

编辑于 2022-06-22 07:51
「 真诚赞赏,手留余香 」
赞赏

发表评论已发布0

手机APP 意见反馈 返回顶部 返回底部