波士顿禁用人脸识别：该技术导致严重的种族歧视

发布时间：2020.06.30 作者： 阅读：

波士顿也宣布禁用人脸识别技术了。

6月24日，美国马萨诸塞州的首府和最大城市波士顿的市议会以13票赞成、0票反对的结果通过了《波士顿禁止人脸监控技术条例（Ordinance Banning Face Surveillance Technology in Boston）》。

条例规定，波士顿市的任何市政机关和公务员均不得获取、保留、拥有、使用人脸监控系统及通过此类系统获得的信息，而且不能通过与第三方合作绕过条例。违反条例规定获取的人脸监控数据将被视为违法数据，一经发现会被删除。

市政府官员表示，波士顿警察局此前并未使用过该技术，但警局目前使用的一款名为BriefCam的视频分析软件，它的升级版确实有人脸识别功能。波士顿警方在市议会的工作会议上表示，他们不会注册这部分软件更新。

此次条例通过，等于从源头掐灭该项技术在波士顿的使用。

目前，在禁用人脸识别的城市里，波士顿城市规模排第二，仅次于旧金山。

而旧金山和波士顿，一个是推特、爱彼迎和优步的总部所在地；一个是哈佛、MIT等知名高校的所在地。都是充满了科技活力的地区，为什么会自己禁止人脸识别这种先进的人工智能相关技术？

反对者们提出了两个原因：

第一，他们认为这项技术将威胁到公民权利，第二，他们认为面部识别技术存在缺陷，将导致严重的种族问题。

在种族抗议活动愈演愈烈的当下，第二条原因更为重要。

提出了该法案的波士顿市议员里卡多·阿罗约（Ricardo Arroyo）与市议员吴弭（Michelle Wu）指出，这项技术对于有色人种来说是非常不准确的。

“它有明显的种族偏见，这很危险，”阿罗约在听证会前说。

法案中称，“已有证据表明，人脸识别技术在识别非裔和亚裔人群体时准确率更低。人脸识别监控中的种族偏见有可能伤害有色人种群体，而有色人种本身就已经受到更多的监控和骚扰。”

在周三的会议上和投票前，吴弭表示，波士顿不应该使用种族歧视的技术。“我们正在努力结束系统性的种族主义，所以，结束对有色人种社区的过度监视需要成为其中的一部分。”

值得一提的是，吴弭是美籍华裔议员，父母从台湾移民至美国，她也是波士顿第一个当上市议员的亚裔女性。

纽约时报曾在一篇文章中提到，人脸识别在针对有色皮肤时错误率明显增大。

MIT媒体实验室（MIT Media Lab）研究员Joy Buolamwini与来自微软的科学家Timnit Gebru合作的一篇研究论文《性别图谱：商用性别分类技术中的种族准确率差异》（Gender Shades:Intersectional Accuracy Disparitiesin Commercia lGender Classification）中，作者将微软、IBM和旷视科技三家人脸识别技术进行对比，结果显示，AI应用人脸识别针对黑人女性的错误率高达21％－35％，而针对白人男性的错误率则低于1％，不同种族的准确率差异巨大。

纽约时报称，该项研究也引发了关于“AI是否存在社会不公甚至种族歧视问题”的探讨，但显然并不是。肤色较深女性较难识别，除了天然人脸特征更难提取之外，可供训练的数据集较少也是影响因素之一。

文章表示，当下的人工智能是数据为王，数据的好坏和多少会影响AI的智能程度。因而，如果用来训练AI模型的数据集中，白人男性的数据多于黑人女性，那么系统对后者的识别能力就会不如前者。

现有的数据集中存在这一现象，比如根据另一项研究的发现，一个被广泛使用的人脸识别数据集中，75%都是男性，同时80%是白人。

旷视回应表示，深色人种数据集比较难获得，所以会差一些；另外，使用RGB摄像头进行人脸识别时，深肤色人的人脸特征比较难找，特别是在暗光条件下，这也是一方面的原因。

也是因为如此，今年6月初，IBM致信美国国会议员，宣布公司将退出通用的面部识别业务，并表示反对将这种技术用于大规模监控和种族定性分析。

在本月早些时候的听证会上，波士顿警察局长威廉·格罗斯说，目前的技术并不可靠，而且该部门也没有使用这项技术。

"在这项技术100%准确之前，我对它不感兴趣，“他说。”我没有忘记我是非洲裔美国人，我也会被误认。"他补充道。

不过，波士顿的禁令并不会影响私人公司或联邦机构（如FBI）使用该技术。

除了波士顿和旧金山外，马萨诸塞州的其他五个社区——萨默维尔，布鲁克林，北安普顿，斯普林菲尔德和剑桥也有此条禁令。美国公民自由联盟马萨诸塞州分会推动了这些地方的禁令，并正在游说州立法者采取行动。

目前还没有全州范围内的禁令，不过一项暂停使用人脸识别系统的法案目前正在马萨诸塞州联合司法委员会待审。

来源：观察者网