Amazon Web Services推出了新工具来检测机器学习

Amazon Web Services的一项新功能将警告开发人员机器学习算法中的潜在偏见，这是技术行业为防止自动预测歧视妇女，有色人种和其他代表性不足的人群而做出的更大努力的一部分。

SageMaker Clarify功能是在周二的AWS re：Invent会议上宣布的，它是AWS SageMaker机器学习平台的新组件。该技术分析了用于训练机器学习模型的数据，以发现明显的偏差迹象，其中包括无法准确反映大量人口的数据集。它还分析了机器学习模型本身，以帮助确保结果预测的准确性。

麻省理工学院(MIT)于2018年进行的一项研究发现，用于训练面部识别算法的数据集中存在不成比例的白人男性，导致在识别女性和有色人种方面出现大量错误。

据报道，亚马逊本身已经废弃了一种人工智能招聘工具，该工具原来偏向女性，部分原因是用于训练该模型的数据来自观察提交给该公司的以往简历中的模式，其中大部分来自男性。

“偏差可以出现在机器学习工作流程的每个阶段，”亚马逊网络服务AI的应用科学经理Nashlie Sephus博士在re：Invent上介绍了这一新功能。“因此，即使有最好的意图和大量的专业知识，要消除机器学习模型中的偏见也是困难的。”

她列举了一些示例，例如构建电视节目推荐算法，而训练数据中没有足够的电视剧。还存在“模型漂移”的挑战，训练数据最终与用于预测的数据完全不同，例如抵押贷款利率的变化导致住房贷款的机器学习模型出现偏差。

SageMaker Clarify是亚马逊AI副总裁Swami Sivasubramanian在周二的虚拟会议上宣布的一系列机器学习功能和产品之一。下一个主要的re：Invent主题演讲是周四，全球基础设施副总裁Peter DeSantis。