微软发布多个建置可信AI的问责机器学习工具

为了提高人工智慧解决方案的透明度，微软和Aether委员会合作研究，并发布多个工具，在Azure上提供负责任机器学习服务（Responsible ML），微软提到，由于机器学习开始被深入整合进日常业务流程，因此透明度显得特别重要，Azure机器学习的问责功能，包含三个部分，理解模型、保护人们和资料以及控制端到端机器学习程序。

微软提供InterpretML工具包，让企业可以利用模型可解释性功能，进一步理解模型行为，并向终端用户以及业务相关利益人士，解释机器学习所产生的结果。InterpretML工具包有助于建立精确的机器学习模型，让开发人员可在模型训练和预测阶段，了解模型的行为，而且还适用深度神经网路，另外，模型可解释性功能也可以执行假设分析，透过更改特徵值，以确定这些特徵对模型预测的影响。

微软表示，当前建置人工智慧系统的挑战之一，便是无法优先考虑公平性，微软现在提供可以和Azure机器学习结合使用的Fairlearn工具，开发人员和资料科学家，可以利用专门的演算法，确定每个人都能获得公平的结果。使用者可以在模型训练和部署期间，利用Fairlearn来评估模型公平性，在减少不公平现象的同时，最佳化模型效能，该工具提供了互动视觉化工具，可以用来和推荐的模型进行比较减少不公平性。

考量到机器学习应用处理越来越多的敏感资料，像是医疗保健以及人口普查等领域，微软提到，目前用来保护隐私安全的方法，包括校改和遮罩等，可会限制机器学习的效能，而为了解决这个问题，可以应用差分隐私（Differential Privacy）和机密机器学习技术来建构解决方案，在保持机器学习模型效能的同时，还能保有资料隐私和机密性。

因此微软发布了WhiteNoise差分隐私工具包，用户可以用于Azure机器学习服务上，保护隐私并且防止个人资料遭到辨识。这个差分隐私技术是微软跟哈佛大学研究人员合作开发的，会在资料中添加统计杂讯，以防止洩露个人隐私资讯，且不会造成重大準确性损失。

而为了提高模型训练和部署的安全性，Azure机器学习提供了资料和网路保护功能，包括支援Azure虚拟网路，并且有提供连接到机器学习工作空间的私有连结，用户也可以在专用机器上执行机器学习工作负载，并且在资料传输和静止时，使用金钥加密。利用这些基础，机器学习团队可以在不用看见资料的情况下，在安全环境以机密资料建置模型。

微软提到，负责任的机器学习，其开发过程应该是可重複、可靠并且相关利益者可被问责，而Azure机器学习的责任流程涵盖每个决策者、审核人员，以及机器学习生命周期中的每个参与者。Azure机器学习提供追蹤功能，可自动维护机器学习资产的详细追蹤资讯，像是执行历史纪录、训练环境和模型说明等，并将这些资料纪录在中央注册表中，让企业可以用于各种审核需求 。