本文转自《How to build AI applications users can trust》

原文为英文，所以用Google机器翻译的，阅读起来会有不顺畅的情况。但是不影响了解大意。文章目的已经达到了，所以不用太纠结翻译的好坏。

为了有效工作，算法需要用户数据-通常是持续不断的，以帮助改善和改善体验。要获取用户数据，您需要用户。为了吸引用户，尤其是对您的数据信任您的持久用户，您需要提供适合其舒适程度的选项，同时仍允许他们将来进行更改。本质上，要获得用户认可，您需要采取两步走的方法：让用户知道您要收集哪些数据以及为什么要收集数据，并让他们控制收集。

步骤1：提供持续的透明度

找到平衡的第一步是为您的用户提供知识。用户在决定与应用程序交互之前，需要知道正在收集什么数据以及如何使用这些数据。业界的压力已经朝着这个方向发展：苹果公司最近宣布了其所有应用程序的隐私标签，这将使用户更加了解使用他们的应用程序时收集的数据。下方的Microsoft CaptionBot是一个很好的示例，说明了如何为用户提供一个易于理解的概览，以了解其数据在幕后的状况。

微软的CaptionBot提供了有关数据存储，发布和使用的清晰信息，以及使AI字幕工具能够在后台运行的系统的易于理解的概述。

Microsoft的CaptionBot提供了有关数据存储，发布和使用的清晰信息，并提供了易于理解的概述，这些系统可在后台使AI字幕工具正常工作。

下面的健康应用程序Ada是如何避免用户对数据收集选择感到困惑的示例。

上图：Health app ada首先解释了其输入选择背后的逻辑，因此用户可以了解其输入如何影响应用程序及其执行所需动作的能力。

预先共享这些信息不仅会给用户一种授权感，并帮助您随着时间的推移建立对您的体验的信任，还为您提供一个机会，帮助他们了解如何共享他们的数据可以改善他们的体验，以及如何在不减少共享资源的情况下减少他们的体验。该数据。通过为用户提供帮助他们了解共享数据时会发生什么情况的信息，我们还为他们提供了工具，以了解这种交流如何使他们受益，从而增强了用户使用该应用程序的热情。广告

除了这些细节外，在用户使用应用程序时向他们提供信息也很重要。共享有关算法有效性（算法在任务上成功的可能性）和算法置信度（算法在产生的结果中有多确定）的信息，在用户舒适地使用这些技术方面会产生很大的不同。众所周知，舒适度在采用和参与中起着重要作用。

请考虑以下Microsoft对某些产品的信任度。

上图：当算法做出“最佳猜测”时，显示置信度等级（在使用Microsoft的Bing Image Search的第一张图片中，评分为0到1，在第二张来自Microsoft的Celebs Like Me的图片中，为百分比评分）有助于用户了解他们应该对算法结果产生多大的信任。

还应该使用户了解某些操作和机制。因此，重要的是要确认这些机制何时起作用或“思考”，何时从算法移交给人类，或者何时将数据共享给第三方系统或存储给潜在的以后的应用程序。不断地提供机会来建立对您的应用程序的认识和理解，将会提高使用它的信任度。用户越信任它，随着时间的推移，他们越有可能继续使用它。

步骤2：移交控制权

即使应用程序的优势足以吸引用户选择使用，用户也不一定总是希望使用AI。在某些情况下，他们想退出或限制使用该技术的数量。我们如何授权他们在最重要的时刻选择与之交互的AI数量？再次，预先和半定期签入的组合在这里效果很好。广告

当通知用户您正在收集什么数据以及如何使用它们时，如果用例不能满足他们的需求，让他们有机会选择不共享某些类型的数据。在可能的情况下，向他们提供一系列分级的选项（启用所有数据共享而不是部分数据共享而不是全部数据共享时会得到什么），以使他们能够选择最适合他们的选项。

考虑下面来自食品订购应用程序Ritual的示例。

上图：流行的食品订购应用程序Ritual允许用户选择共享某些数据，并告知用户选择退出将如何影响应用程序的功能。

每当您添加新产品功能或用户首次使用该功能时，请提示他们查看或更改其数据共享级别。以前似乎与他们不相关的内容可能会对提出的新用例产生很大的吸引力。如果正在收集一种新的数据，请再次提示。广告

提供控制权的最后一种方法：让用户有机会直接控制应用程序。这意味着可以简单地不时与您的用户联系，以了解他们喜欢哪些功能，不喜欢哪些功能以及他们想要从应用程序中获得什么。或者，更重要的是，它可以作为应用程序本身的一部分。用户是否可以调整某些输入的级别以产生不同的结果（例如，对于推荐算法，将一个输入权重于另一个输入权）？他们可以退一步还是手动覆盖某些方面？尽可能按原义移交控件，可以使用户感到被应用程序授权，而不是被应用程序吓倒。

Youper的AI疗法应用程序很好地说明了如何为用户提供控制。

上图：Youper的AI疗法应用程序不需要用户一开始就设置所有参数，而是在他们继续与该应用程序互动时为其提供了定期的机会来完善自己的体验（并解释了为什么它可以帮助他们这样做） 。

每个应用程序都是不同的，因此，每种授权用户的方法都会有所不同。但是，当您提供透明的方式来了解系统如何以及为什么要采用现有的信息，并且让消费者有机会选择不共享某些信息时，便会建立信任的空间。当您的用户信任您时，他们将更倾向于共享使您的产品和服务活跃起来所需的数据。