笔趣阁

手机浏览器扫描二维码访问

中信出版2020年度好书经济管理套装共12册第十一章 人工智能与伦理 不要问计算机能做什么要问它们该做什么（第2页）

计算机科学领域的其他人，包括微软研究院的人，一直对人工智能系统设计出更智能的自我版本或依靠它们自身的思维过程逃避人类控制的前景持怀疑态度。托马斯·迪特里奇和埃里克·霍维茨表示：“这样的过程与我们目前的理解，即学习和推理的算法受到计算复杂性的限制背道而驰。”他们指出：“不过，自我设计和优化的过程可能仍然会导致能力的飞跃。”T.G.DietterichandE.J.Horvitz，“RiseofConcernsaboutAI:ReflectionsandDirections，”CommunicationsoftheACM，vol.58，no.10，38–40（2015年10月），http:erichorvitz.CACM_Oct_2015-VP.pdf。

牛津大学教授尼克·博斯特罗姆在他最近出版的著作中对这些问题进行了更加广泛的探讨。NickBostrom，Superintelligence:Paths，Dangers，Strategies（Oxford:OxfordUniversityPress，2014）。

在计算机科学领域，有些人用“奇点”一词来描述计算能力。这种能力增长如此之快，以至于无法预测未来。

机器偏见

同年，在白宫主办的一次会议上，这些更为紧迫的问题被提了出来。那次会议的一个热门讨论是ProPublica上发表的一篇题为“机器偏见”（MachineBias）的文章。这篇文章的副标题点明了文章的主旨：“全国各地都在使用软件来预测未来的罪犯，而其对黑人充满偏见。”由于人工智能越来越多地被用在各种各样的场景中进行预测，人们越来越担心系统是否会在不同场景中对特定群体，包括有色人种，存有偏见。

ProPublica在2016年描述的偏见问题真实存在。它反映出两个现实世界的原因，如果希望人工智能可以按照公众的正当期望得到应用，这两点都需要得到解决。第一个造成偏见的原因涉及带有偏差的数据集。例如，一个包含人类面部照片的人脸识别数据集可能包含了足够的白人男性照片，从而能够以高准确率预测白人男性的面部。但如果女性或有色人种照片的数据集较小，那么针对这些群体的错误率可能更高。

事实上，这正是两位博士开展的一个名为“性别阴影”（GenderShades）的研究项目得出的结论。这两位博士分别是麻省理工学院的研究员、罗德奖学金得主、诗人乔伊·布兰威尼和斯坦福大学的研究员蒂姆尼特·格布鲁，她们通过比较不同性别和种族人群的人脸识别准确率，来促进公众对人工智能偏见的理解。例如，这两位女性研究员发现，与北欧的白人政治家相比，系统在通过人脸识别确认非洲黑人政治家性别方面的错误率更高。作为一名非洲裔美国妇女，布兰威尼甚至发现一些系统将她认定为男性。

布兰威尼和格布鲁的工作有助于揭示我们需要考虑的第二个维度的偏见。如果不首先建立一个反映世界多样性的团队，就很难建立服务于世界的技术。正如她们所发现的，一个更加多元化的研究者和工程师团队更有可能认识到会对其个人产生影响的偏见问题，并更加认真地思考这些问题。

人工智能面临的伦理问题

如果人工智能赋予计算机从经验中学习和做出决定的能力，我们希望它们拥有什么经验，我们又愿意让它们做出什么决定？

在微软，埃里克·霍维茨首先于2015年底在计算机科学界提出了这些担心。在一篇与他人合著并发表在学术期刊上的文章中，他指出，大多数计算机科学家认为奇点的末日风险充其量也只是一件遥不可及的事，但现在已经到了应该更严肃地看待越来越多的其他问题的时候。第二年，萨提亚接棒在Slate上撰写了一篇文章，建议“需要争论的是创造这项技术的个人和机构为其注入什么样的价值观”。他提供了一些需要纳入的初始价值观，包括隐私、透明性和负责。

到2017年底，我们得出结论，真正应该讨论的是需要以一个全面的方法规范人工智能领域的道德问题。这远非一个简单的提议。随着计算机获得了以前只有人类才拥有的决策能力，几乎每个人面临的伦理问题都正在成为人工智能的伦理问题。鉴于哲学家们几千年的争论都没有形成明确和普遍认可的答案，那么肯定无法仅仅因为我们需要将它们应用到计算机上，就在一夜之间达成共识。

微软的6项道德准则

到2018年，处于人工智能领域最前线的公司，如微软和谷歌等，开始直面这一新的挑战。我们与学术界和其他领域的专家都认识到，我们需要一套道德准则来指导人工智能的发展。在微软，我们最终确定了这一领域的6项道德准则。

第一个准则要求我们满足公平性的需要，即消除偏见的问题。随后是有关两个在公众已达成部分共识的领域，即对可靠性和安全性的重视以及对强有力的隐私和保障的需要。在一些重要的方面，这些概念是为了应对以前的科技革命，以法律法规的形式不断发展起来的。铁路和汽车出现后，产品责任和相关法律针对其制定了可靠性与安全标准。同样，为了响应通信和信息技术革命，逐步引入了隐私和安保规范。虽然人工智能在这些领域提出了新的挑战，但我们可以在既有的法律概念的基础上不断推进。

我们的第四项准则所应对的，是自2014年萨提亚担任微软首席执行官以来，我们的员工一直支持的一个问题。这就是重视开发包容性技术，以满足残障人士的需求。公司对包容性技术的重视自然也将包括人工智能。毕竟，不难设想，如果电脑能够看到图像，将会给盲人带来巨大的便利，而如果电脑能听到声音，也将是聋人的福音。我们不一定需要发明和发布全新的设备来寻求这样的机会。人们已经带着智能手机四处走动，而智能手机上有可以看到物体的摄像头和可以听到声音的麦克风。随着将包容性作为第四个道德准则，在该领域的进步之路已经隐隐浮现。

虽然上述4项准则每一项都很重要，但我们意识到，它们都是基于另外两项准则，而最后的这两项准则将成为其他准则成功的基础。首先是透明性。对我们来说，这意味着确保人工智能系统决策机制相关的信息是公开和可以理解的。毕竟，如果人工智能的内部工作机制完全处于暗箱之中，公众怎么可能会对人工智能有信心，同时未来的监管机构又怎么来评估对前4条准则的遵守情况？

有些人坚持认为人工智能的开发者应该公布他们使用的算法，但我们自己的结论是，在大多数情况下，这样做未必真正具有启发性，还有可能泄露有价值的商业秘密，并因此危害技术领域的竞争。我们已经开始与学术界和其他科技公司就人工智能进行合作，以开发出更好的方法。最新的关注点是让人工智能变得可以解释，比如描述用于决策的关键元素。

有关人工智能的最后一个道德准则将是其他一切的基石，那就是问责性。世界会创造一个计算机对人类负责，而设计这些机器的人对其他人负责的未来吗？这可能是我们这一代人需要面对的一个决定性问题。

这一最终准则要求人类应保留在人工智能的决策机制中，以免基于人工智能的系统在没有人类审查、判断和干预的情况下作恶。换言之，基于人工智能的决策如果会严重影响人类的权利，就需要继续接受严格的人类审查和控制。这就需要接受过培训的人员来评估人工智能做出的决策。

我们认为，这也意味着更广泛的治理流程至关重要。每个开发或使用人工智能的机构都需要制定新的政策、流程、培训计划、合规系统和人员，以便针对人工智能系统的开发和部署进行审核并提供建议。

我们于2018年1月公布了我们的准则，并很快意识到我们引起了极大的共鸣。客户不仅要求了解我们的人工智能技术，还要求了解我们应对道德问题的方法和具体实践。这非常合理。微软公司的整体战略是“人工智能普及化”，即通过让客户能够获取人工智能技术的基本要素，如视觉和语音识别工具及机器学习工具，从而使其能够创建自己的定制人工智能服务。这意味着像技术本身一样，我们需要开发和广泛共享一套复杂的人工智能道德方法。

人工智能的广泛传播还意味着对人工智能技术的特定监管不仅成为可能，而且是必不可少的。对人工智能道德的普遍认识有助于鼓励有道德的人以道德的方式行事。但对那些对遵循道德准则不感兴趣的人又该如何呢？要确保所有人工智能系统按照特定道德标准工作，唯一的方法是要求它们这样做。这意味着以法律和法规的力量来支持社会普遍接受的道德标准。

监管领域的推进速度显然很快，甚至要快于我2017年在达沃斯预测的5年的时间框架。我在2018年4月清楚地看到了这一点。当时我们正在新加坡会见负责人工智能问题的政府官员。“这些问题不能再等了，我们需要比科技先行一步，”他们告诉我们，“我们希望在几个月内，而非几年内，公布第一份提案。”

预见未来：人工智能可能引发的争议

一个不可避免的情况是，人工智能的道德问题将从一般性讨论转变为具体议题，而它们很可能引发具体争议。虽然我们不可能准确预测未来5年或10年人们将辩论什么，但我们可以从已经出现的问题中汲取真知灼见。

2018年，最先出现的一个争议涉及了人工智能在武器中的使用。正如公开辩论广而告之的那样，这个问题与“杀手机器人”有关，这个词会让人立刻联想到科幻小说中的形象。从系列电影《终结者》的表现来看，人们对这样一种叙事是很容易理解的。要知道，《终结者》自从在1984年上映之后，每个10年中都会推出至少一部续集，迄今已经连拍了5部续集。换句话说，如果你是一个十几岁的孩子或更年长的大人，你有很大的概率在大银幕上见识过自主武器的危险。

这场公共政策辩论首先带给我们的教训是，需要对涉及的技术类型有更精准的理解或分类。当我和世界各地的军事领导人交谈时，他们都持有一个共同的信念：没有人愿意在早上醒来时发现，机器已经在人类睡觉时发动了战争。战争与和平的决策需要留给人类来做出。

不过，这并不意味着全世界的军事官员们在其他所有方面也拥有共识。这就是争议所在之处。美国国防部前官员，现任职于一家智库的保罗·沙瑞尔在其著作《无人军队：自主武器与未来战争》中，提出了一个越来越接近本质的问题。正如他所阐述的，核心的问题是，不仅仅要考虑在何时，而且要考虑以何种方式，赋予计算机在不经人类审核的情况下发射武器的权力。一方面，即使装备了计算机视觉和人脸识别系统的无人机在辨别地面上的恐怖分子时可能拥有超过人类的准确度，但这并不意味着军事长官需要或应该拒人和常识于决策流程之外。另一方面，如果某一支海军舰队遭到数十枚导弹的攻击，宙斯盾作战系统的反导弹防御系统还是需要依靠计算机的决策做出反应。即便如此，实际情况也会千差万别，武器系统的使用也应随机应变。人类通常应该做出最初的发射决定，但他们没有时间批准对每个单独目标的攻击。