本文轉自《How to build AI applications users can trust》

原文為英文，所以用Google機器翻譯的，閱讀起來會有不順暢的情況。但是不影響了解大意。文章目的已經達到了，所以不用太糾結翻譯的好壞。

為了有效工作，算法需要用戶數據-通常是持續不斷的，以幫助改善和改善體驗。要獲取用戶數據，您需要用戶。為了吸引用戶，尤其是對您的數據信任您的持久用戶，您需要提供適合其舒適程度的選項，同時仍允許他們將來進行更改。本質上，要獲得用戶認可，您需要採取兩步走的方法：讓用戶知道您要收集哪些數據以及為什麼要收集數據，並讓他們控制收集。

步驟1：提供持續的透明度

找到平衡的第一步是為您的用戶提供知識。用戶在決定與應用程序交互之前，需要知道正在收集什麼數據以及如何使用這些數據。業界的壓力已經朝着這個方向發展：蘋果公司最近宣布了其所有應用程序的隱私標籤，這將使用戶更加了解使用他們的應用程序時收集的數據。下方的Microsoft CaptionBot是一個很好的示例，說明了如何為用戶提供一個易於理解的概覽，以了解其數據在幕後的狀況。

微軟的CaptionBot提供了有關數據存儲，發佈和使用的清晰信息，以及使AI字幕工具能夠在後台運行的系統的易於理解的概述。

Microsoft的CaptionBot提供了有關數據存儲，發佈和使用的清晰信息，並提供了易於理解的概述，這些系統可在後台使AI字幕工具正常工作。

下面的健康應用程序Ada是如何避免用戶對數據收集選擇感到困惑的示例。

上圖：Health app ada首先解釋了其輸入選擇背後的邏輯，因此用戶可以了解其輸入如何影響應用程序及其執行所需動作的能力。

預先共享這些信息不僅會給用戶一種授權感，並幫助您隨着時間的推移建立對您的體驗的信任，還為您提供一個機會，幫助他們了解如何共享他們的數據可以改善他們的體驗，以及如何在不減少共享資源的情況下減少他們的體驗。該數據。通過為用戶提供幫助他們了解共享數據時會發生什麼情況的信息，我們還為他們提供了工具，以了解這種交流如何使他們受益，從而增強了用戶使用該應用程序的熱情。廣告

除了這些細節外，在用戶使用應用程序時向他們提供信息也很重要。共享有關算法有效性（算法在任務上成功的可能性）和算法置信度（算法在產生的結果中有多確定）的信息，在用戶舒適地使用這些技術方面會產生很大的不同。眾所周知，舒適度在採用和參與中起着重要作用。

請考慮以下Microsoft對某些產品的信任度。

上圖：當算法做出「最佳猜測」時，顯示置信度等級（在使用Microsoft的Bing Image Search的第一張圖片中，評分為0到1，在第二張來自Microsoft的Celebs Like Me的圖片中，為百分比評分）有助於用戶了解他們應該對算法結果產生多大的信任。

還應該使用戶了解某些操作和機制。因此，重要的是要確認這些機制何時起作用或「思考」，何時從算法移交給人類，或者何時將數據共享給第三方系統或存儲給潛在的以後的應用程序。不斷地提供機會來建立對您的應用程序的認識和理解，將會提高使用它的信任度。用戶越信任它，隨着時間的推移，他們越有可能繼續使用它。

步驟2：移交控制權

即使應用程序的優勢足以吸引用戶選擇使用，用戶也不一定總是希望使用AI。在某些情況下，他們想退出或限制使用該技術的數量。我們如何授權他們在最重要的時刻選擇與之交互的AI數量？再次，預先和半定期簽入的組合在這裡效果很好。廣告

當通知用戶您正在收集什麼數據以及如何使用它們時，如果用例不能滿足他們的需求，讓他們有機會選擇不共享某些類型的數據。在可能的情況下，向他們提供一系列分級的選項（啟用所有數據共享而不是部分數據共享而不是全部數據共享時會得到什麼），以使他們能夠選擇最適合他們的選項。

考慮下面來自食品訂購應用程序Ritual的示例。

上圖：流行的食品訂購應用程序Ritual允許用戶選擇共享某些數據，並告知用戶選擇退出將如何影響應用程序的功能。

每當您添加新產品功能或用戶首次使用該功能時，請提示他們查看或更改其數據共享級別。以前似乎與他們不相關的內容可能會對提出的新用例產生很大的吸引力。如果正在收集一種新的數據，請再次提示。廣告

提供控制權的最後一種方法：讓用戶有機會直接控制應用程序。這意味着可以簡單地不時與您的用戶聯繫，以了解他們喜歡哪些功能，不喜歡哪些功能以及他們想要從應用程序中獲得什麼。或者，更重要的是，它可以作為應用程序本身的一部分。用戶是否可以調整某些輸入的級別以產生不同的結果（例如，對於推薦算法，將一個輸入權重於另一個輸入權）？他們可以退一步還是手動覆蓋某些方面？儘可能按原義移交控件，可以使用戶感到被應用程序授權，而不是被應用程序嚇倒。

Youper的AI療法應用程序很好地說明了如何為用戶提供控制。

上圖：Youper的AI療法應用程序不需要用戶一開始就設置所有參數，而是在他們繼續與該應用程序互動時為其提供了定期的機會來完善自己的體驗（並解釋了為什麼它可以幫助他們這樣做） 。

每個應用程序都是不同的，因此，每種授權用戶的方法都會有所不同。但是，當您提供透明的方式來了解系統如何以及為什麼要採用現有的信息，並且讓消費者有機會選擇不共享某些信息時，便會建立信任的空間。當您的用戶信任您時，他們將更傾向於共享使您的產品和服務活躍起來所需的數據。