88读书网

手机浏览器扫描二维码访问

中信出版2020年度好书经济管理套装共12册第十一章 人工智能与伦理 不要问计算机能做什么要问它们该做什么（第3页）

考虑到对自主武器的隐忧，一些人认为科技公司应该在人工智能技术领域拒绝与军方进行任何合作。例如，谷歌在经历员工抗议之后，撤销了与五角大楼的人工智能合同。我们在微软也面临同样的问题，因为我们的一些员工也提出了类似的担忧。我们长期以来一直与美国及其他国家的军队合作，几年前，我曾在位于西雅图北部的华盛顿州的埃弗雷特母港参观了尼米兹号航空母舰，凸显了这一合作的广泛性。这艘航母上共有4000多台计算机正在运行我们的Windows服务器操作系统，支持着舰上的各种功能。

但是对于许多人来说，出于可以理解的原因，人工智能系统与上面所说的平台技术完全不同。我们认识到，新技术引发了新一代的复杂问题，在我们考虑一个为美军士兵提供增强现实技术和我们的HoloLens装置的潜在合同时，我们全面讨论了我们应该做什么。

不同于谷歌，我们得出结论，我们必须继续向美国军方和其他盟国政府提供最好的技术，因为我们对民主进程和人权相关的基本敏感性充满信心。美国和北约的军事防御长期依赖尖端技术的支持。正如我们无论在私下还是在公开场合所说的那样：“我们相信美国强大的国防力量，我们希望那些保卫美国的人能够获得美国最好的技术，包括微软的技术。”同时我们也认识到，我们的一些员工对于为美国或其他军事组织的国防合同工作感到不舒服。他们中有些人是其他国家的公民，有些人有不同的道德观，或者是和平主义者，还有些人单纯地希望将精力投入技术的其他应用方面。我们尊重这些观点并迅速表示，我们将努力使这些人能够从事其他项目。考虑到微软的规模和多样化的技术组合，我们认为我们很有可能满足这些要求。

我们也认为，上述这些都不能免除我们必要的责任，使我们不再仔细思考将人工智能应用于武器所带来的复杂的道德伦理问题，并积极采取相应的行动。我在我们的最高管理层讨论这一问题时指出，从19世纪开始，道德问题就在武器发展中发挥了非常重要的作用，彼时空尖弹和炸药刚刚出现在战场上。萨提亚提醒我说，围绕战争的道德问题事实上可以追溯到罗马共和国时期西塞罗的著作。当天晚上，他给我发了一封邮件，说他母亲一定会因为他只记得西塞罗而忘记了印度教史诗《摩诃婆罗多》而不高兴（谢天谢地，他的邮件中附上了一个维基百科链接，以便我能对此多些了解）。

这类讨论使我们得出结论，我们需要作为积极的企业公民继续参与道德问题的讨论。我们相信，我们的参与有助于塑造新出现的公共政策问题。正如我们告诉员工的那样，我们认为没有一家科技公司比我们更积极地解决新技术带来的政策问题，特别是政府监控和网络武器方面的问题。我们认为，最好的办法同样是倡导负责任的政策和法律，以管理人工智能应用于军事的问题。

我们撸起袖子不断学习，不断修正我们的观点。这使我们重新审视我们的六大道德准则，并依照这些准则检视了人工智能应用于武器所适用的伦理道德问题。我们得出的结论是，有三个准则的相关性最高——可靠性和安全性、透明性，以及最重要的，问责性。只有解决了这三个问题，才能保证公众相信人工智能将以确保人类控制的方式得到部署。

我们还发现，这与我们在面临安全保障和国家级网络攻击时需要应对的问题有一些重要的相似之处。在那个领域，已针对新的技术形式（如致命的自主武器）制定了若干国内和国际规则。

许多其他方面的发展似乎也与涉及网络武器的安全问题有相似之处。联合国秘书长安东尼奥·古特雷斯在2018年呼吁禁止“杀手机器人”时并没有含糊其词，他说：“让我们实话实说吧，机器拥有夺走人类生命的自主权力的前景在道德上令人反感。”但是，如同网络武器的情况一样，全球主要的军事力量一直抵制限制其科技发展的新的国际规则。

因此，讨论主要集中在直指隐忧核心的具体场景，希望借此打破僵局。例如，人权观察组织呼吁各国政府“禁止能够在没有实质性人类控制的情况下选择和攻击目标的武器系统”。虽然可能会有更多的细微差别需要解决，但这类国际宣传以“实质性人类控制”之类的具体术语为重点，已经成为新一代道德挑战中需要全世界加以应对的一个基本问题。

重要的是，这项工作必须建立在现有的伦理道德和人权传统之上。美国军方长期以来对道德决策的高度重视给我留下了深刻印象。这并没有使军队完全避免道德过失，有时甚至是巨大的错误，但是从高级将领到西点军校学员的许多军人都告诉过我，要想从美国的军事学院毕业，必须修完一门道德课。与此相对的则是，许多美国大学的计算机科学专业学生并没有这种要求。

我们与其他国家的领导人讨论了这些问题以及一些类似的新兴问题，并且逐渐认识到，伦理道德观点最终建立在更广泛的人权和哲学基础之上。因此，必须将这些问题与对世界多元文化的理解，以及这种多样性所产生的各种法律和监管方法联系起来。

人工智能提出的复杂性问题

与所有信息技术一样，人工智能的设计具有全球性的特征。创造它的技术人员希望它在任何地方都能以同样的方式工作，但各国之间的法律法规可能会有所不同，从而既给政府外交官，也给技术人员带来挑战。我们已经反复经历了这种不同带来的困扰，首先是在知识产权法规方面，然后是竞争规则，最近则是隐私监管法规。但在某些方面，与试图裁定伦理道德问题的法律可能具有的复杂性相比，这些不同不值一提，因为伦理道德问题归根结底是哲学问题。

现在，人工智能迫使世界面对伦理道德和其他哲学传统之间的异同，而此前从未有任何技术有这种需要。人工智能提出了诸多复杂的问题，例如个人应承担的责任、对公众保持透明性的重要性、个人隐私的概念以及基本公平的概念等。但是，假如世界无法就人类的哲学问题达成一致，那么它又如何能在计算机伦理方面找到统一的方法呢？这将是未来的一个根本性难题。

与过去相比，现在更需要创造技术的人员不仅来自计算机和数据科学等学科，还要来自社会和自然科学以及人文学科。如果我们要确保人工智能的决策建立在人类所能提供的最好的基础上，它的发展必须是一个多学科的过程。在我们思考高等教育的未来时，我们需要确保每一位计算机和数据科学家都接触过文科，就像每个文科专业的人都需要掌握一定的计算机和数据科学知识一样。

我们还需要在计算机和数据科学课程中更加注重伦理道德学科的内容，可以采取专门课程的形式，也可以将其纳入几乎所有课程的内容，或者二者兼具。

我们乐观地认为，新一代的学生将满怀热情地接受这项课程。2018年初，我和拥有机器人学博士学位、负责我们主要人工智能工作的微软执行副总裁沈向洋一起公开提出了一个问题。这个问题是：“我们是否应该像医生那样，针对程序员制定一个希波克拉底誓言？”我们与其他人一起建议应该制定这样的誓言。几周之内，华盛顿大学一位计算机科学教授就尝试编辑了传统的希波克拉底誓言，针对那些创造人工智能的技术人员提出一个新的誓言。当我和向洋在世界各地的大学校园里发表演讲时，我们发现这是下一代关心的问题。

最后，一场关于人工智能道德准则的全球对话需要一个更大的舞台。不仅需要让技术专家、政府、非政府组织和教育工作者发表见解，也需要为哲学家和世界上许多宗教的代表提供席位。

为了推动这样的全球对话，我们来到了一个我认为最不可能谈论科技的地方——梵蒂冈。

这次访问从某种程度上来说颇具讽刺意味。我们于2019年2月在罗马短暂停留，在那里与梵蒂冈的宗教领袖们讨论计算机的道德问题。几天后，我们将前往德国参加一年一度的慕尼黑安全会议。届时，我们将被世界各国的军事领导人包围。一周之后，梵蒂冈也将举办内部会议，讨论神职人员的道德问题以及教堂里的虐待儿童问题。因此，我们会面的这个时刻凸显了人类的愿望和挑战。

当我们驱车抵达梵蒂冈时，意大利天主教会的大主教文森佐·帕格利亚阁下满面笑容地出来迎接我们。他满头白发、和蔼可亲，是一位著作等身的学者，领导梵蒂冈处理各种伦理道德问题的工作，包括应对人工智能的新挑战。微软和梵蒂冈决定共同赞助一项博士论文奖，以探索这项新兴技术与长期存在的伦理道德问题之间的交叉点。

那天下午的经历再度提醒我们在科技与科学、哲学与宗教之间曾发生的历史碰撞。在梵蒂冈访问期间，帕格利亚阁下带我们参观了西斯廷图书馆，在那里，我们仔细翻阅了一本《圣经》，这是谷登堡用他发明并于14世纪50年代投入使用的活字印刷机印制的首批《圣经》中的一本。活字印刷术是巨大的技术进步，彻底改变了人类的沟通方式，并影响了欧洲社会的每一部分，包括教会。

我们随后阅览了在那之后150年的一部信函集。它保存了伽利略与教皇的通信，对于了解伽利略和教会关于地球和太阳在天空中位置的争论至关重要。如信函所示，伽利略在17世纪早期用自己的望远镜记录了太阳黑子的位置变化，这表明太阳在旋转。这是一场关于《圣经》解释的激烈争论的一部分，导致伽利略在罗马受到宗教裁判所的审判，并被判终身软禁。

这两本书放在一起，生动地说明了科学技术是如何与信仰、宗教和哲学问题相互联系或碰撞的。如同印刷机和望远镜这样的发明一样，很难想象人工智能不会在这些领域引发新的碰撞。问题是，人们应该如何促进一场深思熟虑、相互尊重和包容的全球对话。

我们在会见教皇方济各和帕格利亚主教时讨论了这个话题。我们谈到了在科技发展的同时，各国越来越转向内部，有时会背弃邻国和其他需要帮助的国家。我提到爱因斯坦在20世纪30年代对科技带来危险的可怕警告。教皇随后提醒我，爱因斯坦在第二次世界大战后曾说：“我不知道第三次世界大战会使用什么武器，但第四次世界大战一定会使用棍棒和石头。”爱因斯坦的观点是，科技，尤其是核科技的发展，已经可以毁灭一切。

当我们结束会面离开的时候，教皇握着我的右手，同时左手轻抚我的手腕教诲道：“保持你的人性。”

在我们思考人工智能的未来之时，这是一个我们所有人都应听取的好建议。

王牌狙击手（全5册）  夏元  村霸农女：傲娇夫君来种田  冲出豪门似鸟飞  超能富豪养成计划  末世：开局爆出一只貂蝉  我的竹马是哭包  上班第一天，我拒绝了无偿加班！  魔王奶团敲凶哒  末日求生  百龙传奇：人龙传  灵域战仙  知乎高赞答主：温酒的睡前故事（全2册）  全球神邸：我随机获得万界宝物  读美文库——再别康桥  莲静竹衣代表作品合集（共8册）  穿书之黑化反派自救手册  紫金陈：少年股神（全2册）  替身的我和白月光互穿了  谢邀：人在迪迦刚成邪神