横幅图片:Morgan Klaus Scheuerman, 信息科学博士研究生, 获得了2021年微软研究奖学金. 他研究面部识别技术如何以及为什么会出错.  图片来源:Casey Cass/CU boulder

在马里兰州最保守的县之一的一个传统蓝领家庭长大, 摩根·克劳斯·舒尔曼很早就知道被边缘化是什么感觉.

他选择等到25岁左右再出柜. 他回忆说，高中充满了黑暗的日子.

“有些人在不知道我是同性恋的情况下，说了一些让人心烦意乱的话. 我有时感到非常绝望.”

四年制大学似乎遥不可及，因为他家里以前没有人上过大学，而且经济拮据. So, 毕业后, 舒尔曼在当地的百思买(Best Buy)找到了一份客服工作, 开始储蓄, 并试图想象一个许多同龄人从未离开过的家乡以外的未来.

“老实说，我以为那就是我，”他说.

相反，现年29岁的Scheuerman是社交计算领域最令人垂涎的年轻人之一. 他曾在谷歌和Facebook任职, 他的面部分析研究赢得了国际赞誉, 他刚刚获得了微软著名的2021年研究奖学金. 这包括在博彩平台推荐完成两年的信息科学博士学位，以及与微软研究人员合作的机会.

他的工作, 正如他所说, 寻求一个根本目标:向科技公司展示边缘化人群的重要性.

这样做, 他研究, 字面上的, 电脑是怎么看博彩平台推荐的, 重点关注从手机、电脑到机场和商场的监控摄像头无处不在的面部分析软件. 已经, 他和其他人的研究发现，这些平台经常错误地识别非白人, 男性和顺性别. 他想知道原因.

在制造这些产品的过程中哪里出了问题? 它们可以被改进吗?? 他还敢问，有些技术根本就不应该被制造出来?

“博彩平台推荐有反对种族和性别歧视的劳动法、广告法和住房法, 但是，没有专门的法律将歧视嵌入到算法中,舒尔曼说. “只有当这种歧视发生在博彩平台推荐身上时，博彩平台推荐才能发现它.”

当监控录像出错的时候

2020年1月, 底特律警察把车停在一个名叫罗伯特·威廉姆斯的黑人的车道上, 在他两个年幼的女儿面前给他戴上手铐，把他拖进监狱. 警方后来确定，面部识别服务错误地将他的驾照照片与一段商店行窃事件的监控视频中的静止图像相匹配.

当警察问他视频图像是否是他时，威廉姆斯回答说:“不是. 你觉得所有黑人都长得一样?”

所有指控都被撤销. 但是根据媒体报道, 在美国，至少有三名黑人因面部识别软件的故障而被错误逮捕, 还有无数人被侧写或被骚扰.

“很多人对这项技术的担忧已经成为现实,舒尔曼说. 而面部识别软件在判断白人男性的性别时可以非常准确, 它在三分之一的时间里错误地识别了有色人种女性, 最近的研究表明.

在一个极其恶劣的认错人的案例中, 谷歌的照片分类软件始于2015年，开始将黑人标记为“大猩猩”.谷歌立即道歉，并采取措施解决问题.

Scheuermann自己的研究 显示, 尽管该系统擅长于识别顺性女性(出生时被指定为女性的人)或顺性男性, 当面对不完全符合这两类人的时候，他们会犹豫.

“虽然世界上有很多不同类型的人, 这些系统对性别的看法极其有限,舒尔曼说, 他认为自己是男性.

值得注意的是, 当他提交自己的照片时——他的长, 蓝色的头发衬托着他的高颧骨——到几个面部识别平台, 一半的人搞错了他的性别. 他警告说，这样的错误可能会导致真正的伤害. 一款婚介应用可能会让某人与错误的性别约会. 面部识别程序所看到的内容与个人所携带的文件不匹配，可能会使某人无法通过机场安检.

面部分析软件也可以作为一种识别工具. 例如, 据报道，中国政府一直在使用面部分析来识别和瞄准维吾尔族少数民族成员.

舒尔曼指出，还有更微妙的影响.

“如果你想被认可为男性或女性，这些系统可能会强化对你应该是什么样子的刻板印象, 这会影响到每个人.”

管道多样化

So, 人工智能平台是如何将一个人识别为黑人女性，而将另一个人识别为白人男性的? 为什么他们会弄错呢?  “这是一个非常人性化的问题，”舒尔曼解释说.

通过在线招聘服务，比如亚马逊土耳其人, 科技公司经常让员工把一张又一张的照片分类, 包括黑色或白色, 男性或女性.

然后，这些数据被用来训练计算机算法，进而训练博彩平台推荐的智能手机.

但每个人类注释者都有自己的文化偏见，有时所谓的“训练数据”本身缺乏多样性, 他的研究表明.

在这个过程的其他地方, 计算机科学家和工程师做其他决定, 考虑应该开发什么技术, 如何使用它, 谁会因此受到伤害.

边缘化群体往往被排除在这些讨论之外.

“我想知道研究人员在何时何地做出决定，以及他们是如何做出决定的, 从业者和政策制定者可以进行干预，塑造一个更加公平的未来,他说.

“酷儿是你的超能力”

Scheuerman的顾问Jed Brubaker说, 他是信息科学系的助理教授，他招募了舒尔曼加入他的身份实验室, 说来自边缘社区的人倾向于为社会计算领域带来完全独特的观点.

“在某种程度上，酷儿身份是你的超能力，”布鲁贝克说. “站在外面让你从多个角度看待事物，思考大多数人看不见的事情.”

Scheuerman独特的技术知识和社会科学专业知识的融合也为他提供了很好的服务, 布鲁巴克说.

“很少有学生能在两者之间架起桥梁.” 

从百思买(Best Buy)毕业后，舒尔曼做了一名咖啡师，以帮助自己支付大学学费. 他认为，早期在巴尔的摩古彻学院(Goucher College)上的性别研究课程，让他鼓起勇气向家人出柜. 他们热情地接受了他，使他感到意外.

他在马里兰大学的硕士学位, 研究不同的电脑系统对青少年的影响, 视障人士和少数族裔, 带领他在2018年进入了博彩平台推荐, 这里有全国最早的信息科学系之一.

全国只有10名学生, 多于1,000名申请者, 获得了微软奖学金.

他说:“在我的成长过程中，这整个地区对我来说都是遥不可及的。. “我真的很感激.”

Scheuerman强调，他的意图并不是要废除技术. 他每天登录手机或在社交媒体上给人贴上标签时都会使用面部分析软件. 但他愿意在为这个领域带来新的思维方面发挥一点作用.

他说:“我希望看到企业开始把人放在技术创新之前。. “我不希望博彩平台推荐设计的系统伤害任何人——无论是有意还是无意.”