跨国科技公司如何倡导道德人工智能

在过去的两年里，我们在科技行业的讨论以及人工智能(AI)伦理和道德原则在塑造我们使用和体验方式方面的作用显著增加。研究界也遵循了这一步，发表的论文在各个方面都有显著增加，从机器学习偏差到可解释性，再到潜在的安全隐患。

这并不新鲜。正如数据与社会的雅各布梅特卡夫所指出的，在20世纪90年代初，计算机学会(ACM)和电气与电子工程师协会(IEEE)都发布了计算机科学家的道德准则。最近，我们看到无数STS研究者对技术可能危害人类和社会的可能性发出警告。

虽然有人很快将AI归为有中断历史的行业中最新的中断，但AI改变世界的速度将其归为不同的类别。加上不断上升的风险，我们的行业最终听取了经验丰富的领域专家的建议，在技术投入市场之前，将道德考虑纳入技术的设计、开发、部署和使用中。

然而，这种活动的增加导致了“洗德”的指控，这是一个贬义词，用来描述夸大一个组织对道德原则的兴趣以提高其公众意识的做法。这就引出了可以理解的关于“行动”的问题。公司正在做什么来将原则主张转化为实际治理？更重要的是，他们如何将这些实践应用到企业文化中，在大多数情况下，企业文化从未被要求被视为产品生命周期的一个基本要素。

尽管许多科技公司一直在制定新的计划，将道德纳入产品设计和部署，但许多公司不愿意公开谈论这些努力，因为它们太早了。然而，这些挑战的紧迫性要求我们在学习过程中分享公司，让每个人都能受益，因为我们都在努力迎接类似的挑战。

作为来自40家公司的“道德高管”WEF社区的一部分，其中大多数是新成立的职位或办公室，整个行业的领导者表示，他们的公司甚至没有一个基本的框架来处理产品的设计方法和对象。应该卖给——在缺乏系统方法的情况下，很多人默认会做出被动的一次性决定。

在微软，我们已经公开发布了关于计划实施强大的“负责任的人工智能”治理过程的信息，该过程目前正在进行中。尽管我们将在前进的过程中分享更多的东西，但我们已经学到了在实现治理过程和实践中发挥关键作用的重要性：负责任的人工智能冠军。

负责任的人工智能冠军

在微软，“冠军”很简单。它指的是一位领域专家，他可以让给定地理位置和/或工作组中的其他同事了解、咨询、协助和升级。多年来，我们在安全、竞争产品、开源和许多其他领域赢得了冠军。

这对于伦理学如此重要有两个主要原因。首先，技术伦理是大多数员工担任大多数职位的新课题。其次，这个领域需要分布在组织层面的知识和便利的存在。

第一个原因是有据可查的。幸运的是，斯坦福大学、麻省理工学院、圣克拉拉大学马库拉中心、哈佛大学、康奈尔大学等领先的技术机构正在解决医学院、法学院、哲学系之外没有正规大学伦理学课程，但部分科技人员学习曲线陡峭的问题。在微软，Champs通过介绍核心概念、决策框架和流程，帮助他们理解陡峭的学习曲线，从而确定如何评估危害的定义、危害的可能性和严重性以及危害的严重性。它的影响力。

第二个原因同样令人生畏：变革管理以帮助人们从事成熟的全球业务的形式，将道德原则纳入现有产品生命周期的各个方面，包括解决方案开发和销售。

如果有足够的相似性，我们通常会依靠历史相似性来制定应对这些挑战的解决方案。安全和隐私是微软的两个相似之处。在安全性方面，比尔盖茨2002年发布的“可信计算”备忘录带来了产品文化的深刻变革。备忘录改变了我们的软件开发流程，最终使这一改变成为微软安全开发生命周期(SDL)。隐私的作用是由最近的催化剂推动的，即微软承诺并被全球客户采用的欧盟通用数据保护条例(GDPR)。在这两个类似物中，有一个明确而决定性的时刻，它带来了明确的前进方向，然后继续努力，以达到预期的结果。

负责任的AI是一段多年的旅程，塞特亚纳德拉从2016年开始的专栏需要一个人工智能的伦理框架，其次是2017年组建的AETHER委员会，2018年出版的未来已经计算好等等，以此来夯实微软对负责任创新的承诺。在这种情况下，Champ的角色是在此基础上建立一个基础，并作为负责任的AI的内部倡导者和传记

具体来说，负责任的AI冠军有五项主要职责：

提高团队和工作组中负责任的AI原则和实践的意识

帮助团队和工作组在AI功能，产品或服务生命周期中实施规定的实践

向负责人就负责任的AI开发的好处以及意外伤害的潜在影响提供建议

通过可用渠道识别和升级AI的问题和敏感使用

通过在组织内外培养负责任的AI传播者社区，培养以客户为中心和全球视野的文化

历史上，Champ一直是Microsoft的职能部门。由于领域的兴趣和/或在给定领域的领导作用，冠军拥有全职工作并担任冠军。他们的背景多种多样，在技术，商业，社会科学和法律等领域尤为重要。例如，了解学科知识并能说工作组语言的数据科学家和工程师可以在技术团队中担任冠军，但具有社会科学方面的工作知识，可以为潜在的社会影响带来急需的观点。但是，在销售团队中，面向客户的角色处理非常不同的问题，Champ担任潜在客户的潜在敏感用途的顾问，我们从潜在客户那里收到各种建议书。

资历并不比对增强我们使可定义的，可重复的业务实践以支持负责任的AI成为我们文化的永久组成部分的能力的热情和承诺重要。

我们将在学习中分享更多信息，但很明显，香榭丽舍计划的实施对于任何治理工作的成功都是至关重要的。从原则到行动的持续转变要求在产品生命周期的每个阶段都改变文化，并在工作组层面上持续努力以确保持续的进步和学习。