亚马逊员工抗议公司:不该向美政府卖人脸识别技术

作者: 刘春   来源: 网易科技    [上传用户: H100]  阅读:

  10月18日消息,据国外媒体报道,一位自称亚马逊员工的作者在medium.com发表了一封公开信,表示反对亚马逊将其面部识别系统Rekognition出售给美国的执法机构。

  该信部分内容如下:

  当一家公司将新技术推向世界时,它有责任考虑其后果。我所在的亚马逊目前允许全国各地的警察部门购买其面部识别产品Rekognition,我和其他员工要求公司立即停止这项业务。

  几周前,我的同事就这事的影响给杰夫·贝索斯(Jeff Bezos,亚马逊CEO,译者注)和其他高管写了一封信,这封信获得了亚马逊450多名员工的签名。信中还要求亚马逊将软件公司Palantir踢出其云服务AWS,因为该公司为美国移民与海关执法局(ICE)的驱逐与跟踪系统提供了大部分的技术支持,并建立员工对公司决策进行道德监督的机制。

  我们知道贝佐斯意识到了员工的这些担忧,同时围绕这一话题正与整个行业对话。在公开演讲中,他承认大型科技产品可能被执法部门利用,甚至是滥用。但是,贝佐斯并没有解释亚马逊将如何采取行动来防止其自身技术被不当使用,而是建议我们等待社会产生“免疫反应”。

  如果亚马逊继续等待,我们认为这种损害将难以消除。

  毕竟,我们关注的不是其它公司将来可能造成的危害,而是亚马逊目前正在设计、营销和销售的一套用于危险、大规模监控的系统:Rekognition。亚马逊网站吹嘘说,该系统可以一次性存储和搜索数千万张人脸。执法部门已经开始使用亚马逊的这项面部识别技术,但几乎没有任何公众监督,也没有对此进行公开辩论,或有所限制。佛罗里达州奥兰多市正在通过遍布全市的监控摄像头的实时视频信号来测试Rekognition。俄勒冈州的一个警察部门目前正在利用Rekognition,让现场的警官将照片与数据库的面部照片进行比对。这已不再是一个假设的情况。

  我们从历史中了解到,新型的、强大的监控工具不受控制地掌握在执法机构手中,将被用于针对那些没有做过错事的人;在美国,由于缺乏公共问责制,已经导致了对有色人种、移民和行使第一修正案权利的人进行过度干扰和过度监管。在向政府和执法机构提供强大技术的同时,忽视这些紧迫问题是危险的和不负责任的。

  这就是为什么当AWS全球公共部门副总裁特雷萨·卡尔森(Teresa Carlson)最近表示亚马逊“毫不动摇地支持”执法、国防和情报部门的客户时,我们感到失望。他甚至还说,即使我们“不知道他们实际上在利用这个工具做什么”。亚马逊甚至建议,为警官随身相机提供Rekognition功能,这将把本来作为警察问责的工具变成针对公众的移动监控设备。我们为什么要这样做?

  像我们这样的公司不应该开展促进政府监控的业务。现在不行,永远也不行。但Rekognition支持通过从一帧视频中提取几十个面部标识,并将它们存储起来供以后使用,或者立即将它们与有数百万张图片的数据库进行比对。

  销售这个系统违背了亚马逊的价值观。我们标榜自己是一家以客户为中心的公司,贝佐斯自己直接反对美国政府针对移民的不道德政策,比如穆斯林禁令。

  我们不能以牺牲公众利益为代价,从那些拥有强大权力的客户群体中获利;我们不能忽视我们业务对公众利益的损害。我们销售的Rekognition系统是一种有缺陷的技术,它强化了美国现有的偏见。研究表明,面部识别技术更容易误认拥有深色皮肤的人。这一点在最近对Rekognition的测试中得到了明确的证明。这项调查将美国国会议员的照片与数据库的一些脸部照片逐一比对,结果出现了28项错误匹配,而在有色人种中不正确结果比例特别高。但即使这些错误被修正了,允许执法部门使用这种软件仍然是不负责任、危险和不道德的。现在,产生这种偏见的根源存在于美国更广泛的社会和司法系统中。面部识别技术的使用只会复制和放大美国现有的这种偏见。

  美国目前的政治环境使得向政府出售面部识别产品的想法更加令人反感。美国警方加大了对黑人活动人士的监视力度,特朗普政府也在继续全力打击移民。我们不希望以任何方式为美国政府的超级监视系统做出贡献。亚马逊表示已要求Rekognition的客户遵守法律,但这只是一种为这项技术的负面使用逃避责任的方式。

  谷歌员工公开反对公司与美国国防部的Maven合同(编者注:该合同涉及使用人工智能来分析无人机镜头),微软员工公开反对公司与美国国防部的云计算合同JEDJEDI,我们将跟随他们的步伐。不管我们对美国军方的观点如何,任何人都不应该从“增加军队的杀伤力”中获利。

  亚马逊谈论了很多关于领导力的价值观问题。如果我们想要拥有领导力,我们需要在人类利益与利润之间做出选择。我们可以把危险的监视系统卖给执法部门,或者我们可以维护正义。但我们不能两者兼得。

  • 分享到:

  • 相关文章

    主编推荐

  • 苹果因iPhone降速门面临59起诉讼 或在周四合并为集体诉讼...

  • 无人驾驶的乌托邦,是否会因为这场车祸变为荒漠?...

  • 大蜘蛛在40多款手机中发现恶意软件 矛头指向上海软件开发...

  • 微信矩阵