88读书网

手机浏览器扫描二维码访问

第十二章 人工智能与人脸识别 是否应该像保护手机一样保护我们的面部（第2页）

这已不仅仅是一个关于移民和家庭的故事，也是一个关于科技的故事。政府所使用的是一个结构化数据库，适用于一个进程，但不适用于另一个。政府并没有及时更新信息技术系统，以支持其分离家庭措施涉及的新步骤，相反，它们在没有考虑这些步骤需要怎样的计算机系统支持的情况下匆忙行动。几个月前，我和温迪参观了美墨边境附近海关和边境保护局的一个指挥中心，也看到了它的系统，我对其系统已经过时并不感到惊讶。但政府根本没有考虑到它所需要的基本的技术设施会带来怎样的影响，这一点仍然令我十分震惊。

请政府监管

那天早上，当我走进会议室，参加萨提亚的高管团队周五例会时，我分享了我听到的报道。我们对这一点进行了讨论并认识到，这件事关系到我们一个更大的担忧，即有些人正在极力鼓吹科技公司应该采取主动行动，对于我们反对的政府政策，终止为政府机构提供所有服务。科技现已成为我们生活中一个关键的基础设施，如果不能及时更新技术——或者更糟的是，简单做出终止技术服务的决定——可能带来各种意想不到的后果。正如萨提亚在我们的内部谈话中多次指出的那样，政府正在以电子邮件为工具帮助非法移民家庭团聚。如果我们把邮件系统关掉，谁知道会发生什么。

这让我们得出结论，抵制美国政府机构是错误的做法。但主张采取这种行动的人，包括我们自己的一些员工，提出了一些正确的问题。例如，人脸识别技术带来的挑战需要受到更多关注。

经过深思熟虑，我们得出结论，这项新技术应该受到新的法律法规约束。这是保护公众隐私需求，化解偏见和歧视风险，同时使创新得以继续的唯一途径。

对许多人来说，一家公司主动要求政府监管其产品颇为奇怪。我们的董事长约翰·汤普森说，硅谷的一些人告诉他，他们认为我们因为落后于市场上的其他公司，所以希望通过监管来阻碍我们的竞争对手进步。这让我很生气。与这种指责相反，2018年，美国国家标准与技术研究所完成了新一轮人脸识别技术测试，显示我们的算法在所有类别中都处于或接近领先地位。共有44家公司提供了自己的技术以供测试，但包括亚马逊在内的许多公司没有提供其技术进行测试。

我们对监管的追求源于我们对市场走向的新认识。几个月前，我们的一个销售团队曾想向一个缺乏独立司法机构、在尊重人权方面成绩欠佳的国家政府出售一种人工智能解决方案，其中包括人脸识别服务。政府想在该国首都部署安装摄像头的服务。我们担心，一个藐视人权的政府可以利用这项技术跟踪任何地方的任何人，或者所有地方的所有人。

在我们内部的人工智能道德委员会的建议下，我们决定不推进这项拟议的交易。当地的团队对此并不满意。作为最终的决策人，我收到当地销售团队负责人发来的一封火药味十足的电子邮件，这个团队一直在全力推动这桩交易。她写道：“作为一个母亲和一个专业人士，如果我们能够提供这项服务，以便更好地应对暴力和恐怖行为风险，我会感到更加安全。”

我充分理解她的观点。这一点凸显了在公共安全与人权由来已久的矛盾之间的艰难权衡。它还表明了许多有关人工智能的新型伦理道德决定的主观性质。当然，我们同样担心，正如那位团队领导和其他人所指出的那样，如果我们拒绝提供这项服务，可能会有其他公司乘虚而入。在这种情况下，我们不仅会丢掉生意，还不得不在其他人帮助将技术用于我们所反对的有害目的时只能袖手旁观。不过，我们权衡了所有这些因素，最终得出结论，我们需要尝试给这种新技术的发展奠定某种类型的道德基础。这样做的唯一办法就是拒绝将其用于某些用途，并推动更广泛的公众讨论。

这种原则性的方法在加州本地的一个警察部门联系我们时经受了考验，他们表示，他们想为自己的所有车载和手持摄像机配备一种能力，使其可以拍摄被拦下的人的照片，甚至包括例行检查时被拦下的人，并查看他们是否与其他罪行的嫌疑人数据库相匹配。我们理解他们的逻辑，但向他们建议，由于人脸识别技术仍然不成熟，因而无法在这种情况下部署。至少在2018年，如此使用这一技术将导致过多的错误匹配，并针对被错误识别的人发出警报，特别是如果他们是有色人群或女性，因为针对这两类人群的错误率仍然较高。我们拒绝了这项交易，并说服了警察部门放弃将人脸识别用于这一目的。

这些经验提供了一些启发，帮助我们思考可以应用于人脸识别的原则。但我们担心，如果我们走上这条伦理大道，但被那些根本没有实施任何防范或限制措施的公司削弱，无论这些公司是在西雅图的另一侧，还是在太平洋的另一侧，则我们的做法都不会产生什么实际影响。与许多基于人工智能的技术一样，人脸识别也会随着大量的数据积累而改进。这就使公司拥有动力尽可能多地进行早期交易，从而导致商业竞争的风险，而科技公司将被迫在社会责任和市场成功之间做出选择。

防止这种恶性竞争的唯一办法是确立一个支持健康市场竞争的责任底线，而一个坚实的底线基础要求我们确保这项技术以及开发和使用它的组织受到法治的约束。

我们从以往针对其他技术所实施的监管中汲取了经验。在许多市场中，兼顾各方利益的平衡监管方式为消费者和生产者双方创造了更健康的动态关系。在20世纪，汽车工业曾花了几十年的时间来抵制监管要求，但今天，人们广泛认识到，法律在确保强制安装安全带和气囊，以及更高的燃油效率方面发挥了重要作用。同样的情况也适用于航空安全以及食品和药品管理。

当然，谈论监管的必要性是一回事，而界定什么样的监管最为合理则是另一回事。2018年7月，我们公布了一个我们认为需要考虑的问题清单，并就可能的答案征求人们的意见。讨论首先在员工和技术专家中展开，但很快扩展到全国和世界各地，包括美国公民自由联盟这样积极参与这个问题讨论的公民自由组织。

我在巴黎的国民议会上曾与一些立法者交谈，他们的反应尤其令我震惊。正如一位议员所说：“别的科技公司从未向我们提出过这些问题，你们为什么要与众不同？”在人脸识别技术的问题上，我们有时会与科技业同行产生分歧。这或许比其他任何事情都更能反映我们从20世纪90年代的反垄断斗争中学到的东西。当时，我们和许多公司和行业一样，坚持认为监管并不必要，甚至可能是有害的。但是，我们从这个经历中学到的诸多教训之一是，对于在社会上产生广泛影响的产品，或者那些既可带来益处，又可用于不良意图的产品，这种对抗的方法不一定奏效，也可能不会被接受。

我们不再像大多数科技公司那样，坚守抵制政府干预的传统。我们以前进行过那样的抗争。相反，我们已经认可并支持我们心目中更积极但更平衡的监管方式。这也是我们早在2005年就呼吁美国联邦隐私保护立法的原因之一。我们知道，政府有些时候可能会搞砸某些具体事务，并让我们后悔曾倡导政府的参与。但我们认为，无论是对科技行业还是对社会，这种做法从普遍意义上来说都比完全依赖科技行业自行解决一切问题的做法要好得多。

关键之处在于要搞清楚具体细节。尼塔莎·蒂库曾在《连线》杂志发表了一篇文章，描述了这种动态的重要性。她在这篇发表于2018年底的文章中指出：“在经历了整整一年可怕的科技丑闻之后，即使是厌恶政府的高管，也开始公开表示对立法的开放态度。”但是，正如她认识到的，我们的目标是“更进一步”，提出一项有关政府对人脸识别技术实施监管的具体建议。

到当年12月，我们觉得已经学到足够多的知识，可以提出新的立法建议。我们知道，我们对每个潜在问题都没有答案，但我们相信，在这一领域，已经有足够的答案来制定良好的初步立法，以便确保科技继续进步，同时也能够保护公众的利益。我们认为，各国政府必须跟上这项技术的发展步伐，而渐进式的做法将使整个公共部门能够更快和更好地学习。

从本质上讲，我们借鉴了一家初创公司和软件开发界倡导的概念，即所谓“最简可行产品”。企业家兼作家埃里克·莱斯对这个概念的定义是，它提倡创建“一个新产品的早期版本，允许团队最大限度地获得有关客户的验证式学习（这种学习是基于真实数据收集而不是对未来的猜测）。”换句话说，不需要等到你对每一个可能的问题都有了完美的答案。如果你确信对关键问题已经有了可靠的答案，那么就行动起来，开发你的产品，并把它推向市场，这样你就能从现实世界的反馈中进行学习。这种方法不仅使企业，而且也使科技更快和更成功地发展。

行动之前：我们能做什么？

在更迅速地开始行动之余，深思熟虑并确保迈出正确的前几步也很重要。在这一点上，我们相信我们拥有一系列想法来应对人脸识别技术。我在华盛顿特区的布鲁金斯学会宣布了我们对新立法的主张，并公开发表了我们提案的更多细节。然后，我们开始巡回推广这一主张，在接下来的6个月里，我们在美国和世界其他8个国家的公共活动和立法听证会上对它进行了推介。

我们认为，立法可以解决三个关键问题，即偏见风险、隐私和对民主自由的保护。我们相信，一个运作良好的市场有助于更快地减少偏见。我们遇到的客户都没有兴趣购买错误率高，并导致歧视的人脸识别服务。但如果客户缺乏信息，市场就无法正常运转。正如“消费者报告”（ConsumerReports）等团体曾经向公众通报汽车安全等问题一样，我们认为学术和其他团体也可以测试并提供有关相互竞争的各种人脸识别服务的准确性的信息。这将进一步使像麻省理工学院的乔伊·布兰威尼这样的研究人员有能力开展研究，从而推动我们不断前进。其中的关键是要求参与市场竞争的公司开放其产品以供测试。这就是我们所提出的主张，即在实际上借助监管来强化市场。

为了帮助减少歧视风险，我们认为新的法律还应该要求，部署了人脸识别的组织首先应培训员工审查结果，然后再做出关键决策，而不是简单地把决策权交给电脑。除此以外，我们担心，如果一个组织在部署人脸识别时并未按照该技术设计时预期的方式，发生偏差的风险可能会加剧。训练有素的人员则有助于解决这个问题。

在某种程度上，一个更棘手的问题是，什么时候应该允许执法部门使用人脸识别技术针对特定个人进行持续的监视。

民主始终取决于人们相互见面和交谈，并在私下和公开场合讨论自己观点的能力。这有赖于人们能够在没有政府持续监控的情况下自由行动。

人脸识别技术的许多政府用途是用于保护公共安全和促进更好的公众服务，并不会引起上述担心。但是，如果将无处不在的摄像头、巨大的计算能力和云端存储结合起来，政府可以使用人脸识别技术来持续监视特定的人。它可以在任何时候做到这一点，甚至可以持续这样做。而以这种方式使用这项技术则可能会导致规模空前的大规模监视。

正如乔治·奥威尔在他的小说《一九八四》中所描述的那样，未来的景象之一是，为了躲避政府无处不在的监视，公民不得不秘密找到一个黑暗的房间并在对方的手臂上敲击密码进行交流，否则摄像机和麦克风将捕捉并记录下他们的面孔、声音，还有他们所说的每个字。奥威尔在将近70年前就勾勒了这一景象，而我们担心现在的技术使这种未来成为可能。

因此我们认为，法律只有在下列情况下才可以允许执法机构使用人脸识别来对特定的人进行持续监视，即执法机构已经获得了法庭命令（如对这种监视的搜查令），或是在紧急情况下，如人类生命面临迫在眉睫的危险。这将为人脸识别服务创建规则，这些规则与美国目前通过手机生成的GPS位置跟踪个人的规则类似。正如美国最高法院在2018年做出的裁决，如果没有搜查令，警方将不能要求显示手机地点的手机记录，因此无法获得某人的实际行动轨迹。正如我们所说：“我们的面孔是否应该得到和手机同等的保护？在我们看来，答案当然是响亮的‘是’。”

最后，显而易见的是，人脸识别的监管也应该保护商业环境下的消费者隐私。我们正迅速进入一个时代，在这个时代，每家商店都可以安装摄像头，通过实时人脸识别服务连接到云端。从你走进购物中心的那一刻起，无论你走到哪里，都有可能不仅被拍照，而且被电脑识别。购物中心的老板可以把这些信息分享给每一家商店。有了这些数据，店主可以了解你上次进店的时间以及你看了什么或买了什么，通过与其他商店共享这些数据，他们可以预测你下一步打算买什么。

我们的观点并不是说新的法律应该禁止所有这些技术。相反，我们是致力于帮助商店负责任地使用新技术改善购物体验的公司之一。我们相信许多消费者会欢迎由此带来的客户服务。但我们同样认为，人们有权知道什么时候使用了人脸识别，提出问题，并有真正的选择。

[1]正如我们所指出的：“美国的隐私权运动诞生于照相机技术的进步。1890年，后来担任最高法院大法官的路易斯·布兰代斯与同事塞缪尔·沃伦合著了一篇文章，发表在《哈佛法学评论》上，主张‘独处的权利’，迈出了倡导隐私保护的第一步。两位作者主张，‘瞬时照相’的发展以及报纸出于商业利益而使其广泛传播，创造了保护人们新的隐私权的需要。”Smith，“FacialRecognition”，引用SamuelWarrenandLouisBrandeis，“TheRighttoPrivacy”，HarvardLawReview，IV:5（1890），http:groups.csail.mit.edumacclasses6.805articlesprivacyPrivacy_brand_warr2.html。如我们所指出的，人脸识别正在赋予“瞬时照相”布兰代斯和沃伦始料未及的新的意义。BradSmith，“FacialRecognition:ItsTimeforAction，”MicrosoftontheIssues（blog），December6，2018，https:blogs.microsoft.on-theissues20181206facial-recognition-its-time-for-action.

我们建议，新的法律应要求使用人脸识别的组织发布“醒目的通知”，以方便人们知晓这项服务。我们还呼吁制定新的法规，以决定人们在这种情况下可在何时以及以何种方式进行有意义的控制和同意。后一个问题显然需要在未来几年中开展更多的工作，从而确定适当的法律方法，特别是在隐私法律不如欧洲健全的美国。

另一个有帮助的点是考虑新法律的适用范围。在某些方面，我们并不需要鼓励普天之下都通过立法。例如，如果一个重要的州或国家要求公司为公众和学术测试提供人脸识别服务，那么这个决策将会被公布并广泛散播，从而起到引领作用。基于这一信念，我们鼓励美国各州的立法者在2019年初在全国各地准备召开会议时都分别考虑新的立法。

[2]一位对这一想法感兴趣的州议员是华盛顿州参议员鲁文·卡莱尔，他住在西雅图，在2009年成为州议员之前曾在科技行业工作，https:en.wikipedia.comwikireuven_carlyle。他想支持一项广泛的隐私法案，并有意将人脸识别规则纳入其中。卡莱尔花了几个月的时间起草他的立法提案，并与其他州参议员讨论其细节。功夫不负有心人，他的增加了人脸识别新规则的法案，获得了两党的支持，终于在2019年3月初以46票对1票于参议院通过。JosephOSullivan，“WashingtonSenateApprovesConsumer-PrivacyBilltoPlaceRestrictionsonFacialRecognition，”SeattleTimes，2019年3月6日，https:.seattletimes.seattle-newspoliticssenate-passes-bill-to-create-aeuropean-style-consumer-data-privacy-law-in-washington。

但在消费者隐私保护和对民主自由的保护方面，所有司法管辖区都需要新的法律。我们认识到，鉴于世界各国政府的不同观点，这一点可能并不现实。因此，仅仅呼吁政府采取行动是远远不够的。就算美国政府行动起来了，外面还有一个更大的世界。人们永远无法相信世界各国政府都会以符合人权保护的方式使用这项技术。

政府主导的需要并不能免除科技公司自身的道德责任。人脸识别技术的发展和使用应该与普遍秉持的社会价值观相一致。我们公布了与我们的立法建议相呼应的六大准则，并将其应用到我们的人脸识别技术中，我们还创建了实施这些原则的系统和工具。其他科技公司和倡导团体也开始采取类似的做法。

人脸识别问题让我们得以瞥见人工智能的其他伦理道德挑战有可能发生怎样的演变。正如我们所做的那样，我们可以先制定广泛适用的原则，随后在人工智能技术的具体应用和特定场景中对这些原则进行测试。这种方法也适用于具有潜在争议的人工智能应用更可能出现之时。

更多的问题一定会出现。并且与人脸识别一样，在遇到每个问题时，都需要针对该项技术可能应用的方式分别开展大量细致的工作。要解决许多这样的问题，最终将需要新的监管政策与科技公司主动的自我监管相结合。在面对许多这样的问题时，不同国家和文化也会存在不同的观点。我们需要发展一种更强的能力，使各国能够更迅速、更协作地采取行动，在经常性的基础上应对这些问题。这是我们能够确保机器将永远由人控制的必由之路。

灵域战仙  魔王奶团敲凶哒  谢邀：人在迪迦刚成邪神  王牌狙击手（全5册）  替身的我和白月光互穿了  夏元  紫金陈：少年股神（全2册）  知乎高赞答主：温酒的睡前故事（全2册）  末日求生  百龙传奇：人龙传  上班第一天，我拒绝了无偿加班！  村霸农女：傲娇夫君来种田  穿书之黑化反派自救手册  莲静竹衣代表作品合集（共8册）  末世：开局爆出一只貂蝉  读美文库——再别康桥  冲出豪门似鸟飞  全球神邸：我随机获得万界宝物  我的竹马是哭包  超能富豪养成计划