IBM AI公平性360开源工具包增加了新的功能

周三，IBM宣布升级其人工智能(AI)公平360工具包。据一篇博客文章称，这个最新版本增加了与scikit-learn数据科学库和R的兼容性，并为更大范围的开发人员扩展了可访问性。

参见:管理AI和ML在企业2020:科技领袖增加项目开发和实施(TechRepublic Premium)

AI公平360 (AIF360)工具包最初由IBM于2018年在Github上发布。这个开源包旨在帮助开发人员检查、报告和减轻机器学习模型和整个AI应用生命周期中的偏见和歧视。

该工具包本身包含70多个公平指标和11个独特的偏差缓解算法，这些算法是由研究社区开发的，旨在将算法研究从实验室转化为现实生活中的实践，包括金融、人力资本管理、医疗保健和教育等行业的博客文章。

然而，IBM的更新通过开放与R用户和scikit-learn的兼容性，使得偏差检测更加容易实现。

人工智能的公平性至关重要，因为机器学习模型越来越多地用于高风险决策。IBM的一篇博客文章称，机器学习在大量数据中分析和概括模式，可能会无意中对更有特权的群体产生隐藏的偏见。

AI公平性360旨在确保这些过程中的公平性，随着更新，这种公平性也可以应用到那些使用R编程语言的人。

AI fair 360 R包是一个开源库，包含了用于测试歧视的数据集和模型的全面的指标积累。R用户可以使用公平360算法来减轻数据中的偏差。

Scikit-learn是一个数据科学图书馆，通常用于训练已建立的机器算法模型、计算基本指标和构建模型管道。

据一篇博客文章称，虽然许多IBM笔记本电脑使用带有预处理或后处理工作流的scikit-learn分类器，但在AI Fairness 360算法和scikit-learn算法之间切换之前会打乱工作流，让用户来回转换数据结构。

最新的AI公平360版推出了一个aif360。sklearn模块。在该模块中，用户可以找到当前完整的兼容scikit学习的AIF360功能。并不是所有的功能都移植了，但是希望让AIF360的功能可以和scikit-learn互换。

scikit-learn中的算法和指标可以与去偏算法和指标交换。文中提供的一个示例是“您可以使用反向去偏分类器而不是简单的LogisticRegression分类器，您可以测量equal_opportunity_difference或受保护组之间的recall差异。”所有这些都应该像交换一行代码一样简单。”

IBM警告称，它无法确保AIF360与scikit-learn完全兼容。据该帖子称，某些scikit-learn预处理器，如sklearn. decomposive .pca，会省略样本属性，比如保护属性，并导致AIF360算法稍后出错。

当IBM继续将其功能复制到API时，旧的API仍然可以运行。一旦完成了这项工作，IBM可能会停止对旧API的支持，但会在时间到来之前进行沟通，如本文所述。

DataRobot最近的一份报告发现，美国和英国近一半(42%)的人工智能专业人士“非常”或“极其”担心人工智能偏见。这种偏见会损害品牌的声誉或失去客户的信任。AIF360的这些新功能可以帮助更多的专业人士避免这种有害的歧视。

更多信息，请查看IBM Watson的新自然语言处理功能如何帮助TechRepublic上的商业用户。