Google的新AI工具可以帮助解码决定一切的神秘算法

2019-12-09 10:16:06
阅读提示:      虽然大多数人每天都会遇到算法,但没有多少人可以声称他们真的了解AI的实际工作原理。但是,Google推出了一种新工具,希望能够帮助普通人掌

    该功能被称为“可解释的AI”,它有望按照其名称描述的方式进行操作:向用户解释机器学习模型如何以及为何得出结论。
    为此,解释工具将量化数据集中每个特征对算法结果的贡献。每个数据因子都有一个分数,反映了它对机器学习模型的影响程度。
    用户可以拉出该分数,以了解给定算法为何做出特定决策。例如,在决定是否批准某人贷款的模型的情况下,可解释AI将显示帐户余额和信用评分作为最决定性的数据。
    谷歌云首席执行官托马斯·库里安(Thomas Kurian)在伦敦的Google下次活动中介绍了该新功能,他说:“如果您使用AI进行信用评分,您希望能够理解为什么该模型拒绝特定模型并接受另一个模型一。”
    他说:“可解释的人工智能使您作为在企业业务流程中使用人工智能的客户,能够理解为什么人工智能基础架构能够产生特定的结果。”
    现在,该解释工具可以用于托管在Google的AutoML表和Cloud AI Platform Prediction上的机器学习模型。
    谷歌此前曾采取措施使算法更加透明。去年,它推出了假设工具,供开发人员在公司的AI平台上工作时可视化和探查数据集。
    通过量化数据因素,可解释的AI可以释放更多的见解,并使这些见解对更多用户可读。
    Google Cloud战略主管Tracy Frey说:“您可以将AI解释与十大买球平台排行榜的假设分析工具配对,以全面了解模型的行为。”
    在某些领域,例如医疗保健,提高AI的透明度将特别有用。
    例如,在使用算法来诊断某些疾病的算法中,它将使医生可视化模型拾取的症状以做出决策,并验证这些症状不是假阳性或其他疾病的征兆。