在解释自己
今后，格雷说机器学习系统可能需要展示如何制作的数据，为什么特定的机器学习模型选择。“你得解释模型的性能和在特定情况下它的预测准确度。”
这可能意味着之间是如何透明的模型是怎样强大的妥协。“这并不总是更强大的方法是不太透明的，但我们确实看到了这些平衡的情况下，”霍维茨说。“如果你推很难得到透明度，您通常会削弱系统。”
除了使系统更可解释的选项，它也可以使用一个机器学习系统来解释另一个。这是一个系统霍维茨名为MSR问工作的基础。“当它产生一个答案它可以说这里是正确的概率，”他说 - 这是一招沃森使用了。“在一元层次，你做学习机约一个复杂的过程，你不能直接看到表征它会如何做。”
瑞安卡普兰，ColdLight的CEO，它建立基于AI-预测分析，表明系统可能会问多少，他们将需要解释他们给你一个答案了。“把人的控制通过询问被‘你需要法律解释的模型或者你需要最好的结果呢？’有时候，有超过explainability精度更重要。如果我设置在机场的不同区域的温度，也许我不需要解释我如何决定。但是，在许多行业，如金融，其中一个人必须能够解释的决定，该系统可能要被削减一定的算法“。
辅助功能不脆弱
赫克托怡，人工智能项目在谷歌移动来到Airbnb之前谁工作，坚持“机器学习应该包括在环某处人类。”当他在Airbnb的预测系统开始工作，他问同事，如果他们想要一个简单的模型，他们能理解或更强的模型，他们不会。“我们所做的权衡早去的人解释模型，”他说，因为它使处理数据的错误和异常容易得多。
“即使是最完美的神经网络不知道是什么不知道。我们有人类和机器学习之间的反馈回路;我们可以看一下机器已经完成，我们需要做补充的是改善型的特点是什么。我们知道什么样的数据，我们有可用。我们可以做出明智的决定下一步怎么办。当你这样做，你的突然走弱的模型变得更强。”
微软研究院的帕特里斯锡马德确信，适用超越了当今的博士水平的机器学习专家。他的目标是“民主化机器学习和做起来很容易使用我的母亲可以建立分类与机器学习的先验知识。”
鉴于机器学习专家的数量有限，他说，以提高机器学习系统的最好办法是让他们更容易开发。“你可以建立一个什么都懂超级智能系统，或者你可以把它分成很多的多任务，如果这些任务可以在一小时内通过一个人的正常的专业能力来进行，我们可以谈论缩放的数字贡献者，而不是把一个特定的算法更聪明“。
当他跑兵广告中心，他放弃了一个复杂而强大的算法的东西就简单得多了。“我们花了一个星期的训练使用20台5个亿参数，每次出事了人指着算法，我们必须证明它是计算正确的事情 - 然后一个星期后，同样的事情会再次发生。我有一个非常简单的算法，在性能相似，但在几分钟或几小时内可以训练取代了它。”这是比较容易理解，更容易开发，到处都是关于算法是不是错了没有更多的浪费时间的争论。
能够快速重新训练的关键是保持机器学习系统中的电流，因为该数据料为机器学习系统会及时改过来，这会影响他们做出的预测的准确性。有了一个非常复杂的系统，锡马德警告说“你会坚持使用一种算法，你不明白。你不会知道你是否能保持系统，如果没有一个有专业知识，告诉你它是否仍然有效。或者你可能有一个依赖于另一个与其中一个系统被重新训练一个系统。你还能靠什么呢？”
而如果AI真的有效，它会改变我们的世界，以至于它必须发展，以跟上，霍维茨指出。一个在信念使他们走出急诊室的再住院的风险，以确定患者系统，将改变它来评估病人的组合。
在一方面，AI系统需要知道他们的局限性。“当你把一个系统，把在现实世界开放，也有拿出通常许多不可预见的情况。如何设计系统是一个明确了解他们在一个开放的世界，并明确地知道，世界比他们的信息大吗？”
但是，在另一方面，他们也需要知道自己的影响。“人工智能系统本身，因为我们建立他们必须明白，他们让世界随着时间的影响，并以某种方式跟踪它们。他们有良好表现，尽管他们正在改变他们的演技世界“。
这个故事，“人工智能可以去错了 - 但我们怎么会知道呢？”最初由出版CIO 。