亚马逊人脸识别系统误判的28名议员

【文/观察者网 赵挪亚】

由于担心侵犯个人隐私，美国加利福尼亚州旧金山成为美国首个禁止警察使用人脸识别技术的城市，这一在当地引起了争议，有人担心，一旦禁止人脸识别技术以后，犯罪率将会上升。

据英国《卫报》5月15日报道，旧金山监事会以8:1的投票通过一项法令，禁止警察和其他政府机构使用人脸识别技术。下周二，监事会还将举行第二轮投票，以确定该法案的最终实施。

今年1月，旧金山市议员阿隆·佩斯金（Aaron Peskin）发起了这项名为“停止秘密监视条例”（Stop Secret Surveillance Ordinance）的议案。在这项法令中，除了禁止使用人脸识别技术以外，还要求政府部门在购买其他监控技术之前，需要获得监事会的批准。同时，监事会有权对政府部门使用的监控技术进行年度审核。

旧金山城中的监控摄像头 图自IC Photo

法案通过以后，也在当地引起了一些争议。旧金山一个名叫Stop Crime SF的居民安全维护组织成员梅勒迪斯·塞拉（Meredith Serra）表示：“在旧金山这样一个活动密集，财产犯罪频繁的城市里，警察需要帮助。此外，鉴于手机和监控摄像头的普及，人们希望公共场所的隐私是不合理的。”

美国约翰杰伊刑事司法学院的助理教授杰·万德特（Jay Wandt）则表示：“彻底禁止警察使用面部识别将会带走一种具有潜在价值的公共安全工具。”

而在旧金山此前举行的几场听证会上，隐私权倡导者与公共安全支持者展开了对话。他们表示，面部识别技术不仅存在缺陷，而且对公民权利构成严重威胁，特别是在“珍惜公众抗议和隐私”的旧金山。

除了侵犯隐私以外，美国非政府组织公民自由联盟（ACLU）还认为，人脸识别技术“不准确”，且容易对有色人种“产生偏见”。

公民自由联盟是美国的一个非政府组织，其宗旨为保护个人隐私权利。去年七月，他们曾使用亚马逊公司制造的Rekognition人脸识别系统对美国国会535名议员进行面部识别测试，结果该软件误将其中28名国会议员识别成曾经被捕的罪犯。

这28人中，还有6人来自美国国会黑人同盟（Congressional Black Caucus）。一直以来，面部识别系统识别非裔美国人时错误率会高一些。如果训练数据严重偏向白人男性，那么在识别其它白人男性时，系统可能会精准很多，如果识别其它族群，错误率就会提高。

公民自由联盟希望借这一实验来说明，现有的人脸识别技术不仅不可靠，而且还容易对种族和性别产生偏见。

不过，事件发生以后，亚马逊方面对该事件做出回应，将其归咎为使用者方法不当。其认为若将识别结果信任阈值从80%上调为95%，情况会有所改善。

目前，在旧金山通过法令以后，加利福尼亚州其他城市也正在考虑类似立法。去年，奥克兰已经通过了一项法令，规定任何监视技术都需要经过公众咨询才能获准使用。

而在最近一次的隐私顾问委员会例会上，人们提出，该法案需要增加补充条款，进一步禁止政府部门使用人脸识别技术。

声明：该文观点仅代表作者本人，加国头条 属于信息发布平台，加国头条 仅提供信息存储空间服务。