本文是轉載文章，原文：《Here』s where AI will advance in 2021》

內容是Google翻譯的結果，雖然有些問題，但不影響整體理解。

人工智能繼續快速發展。即使在不乏引人注目的新聞的2020年，人工智能的進步也多次引起了主流關注。尤其是OpenAI的GPT-3，展示了我們可能很快會看到AI滲透到日常生活的新穎而令人驚訝的方式。如此迅速的進展使得對AI的未來進行預測變得有些困難，但是某些領域似乎已經取得了突破。以下是我們對2021年特別樂觀的AI領域中的一些領域。

Transformer

2020年最大的AI成就中有兩項悄悄地共享了相同的底層AI結構。OpenAI的GPT-3和DeepMind的AlphaFold都基於稱為Transformer的序列處理模型。儘管Transformer的結構自2017年以來就已經存在，但GPT-3和Alphafold證明了Transformer的非凡能力比上一代序列模型更深入，更快速地學習，並且能夠很好地處理自然語言處理之外的問題。

與先前的序列建模結構（例如遞歸神經網絡和LSTM）不同，變形金剛脫離了按順序處理數據的範式。他們使用稱為注意力的機制一次處理整個輸入序列，以了解輸入的哪些部分與其他部分相關。這使Transformers可以輕鬆地關聯輸入序列的遙遠部分，這是遞歸模型難以克服的任務。它還允許並行進行培訓的重要部分，從而更好地利用近年來已可用的大規模並行硬件，並大大減少了培訓時間。毫無疑問，研究人員將在2021年尋找新的地方來應用這種有前途的結構，並且有充分的理由期待取得積極的結果。實際上，OpenAI在2021年已經修改了GPT-3以根據文本描述生成圖像。變壓器看起來已經準備好統治2021年。

圖神經網絡

許多領域的數據自然都具有圖表結構：計算機網絡，社交網絡，分子/蛋白質和運輸路線只是其中的幾個例子。圖神經網絡（GNN）允許將深度學習應用到圖結構化數據，我們希望GNN在將來成為越來越重要的AI方法。更具體地說，我們預計到2021年，一些關鍵領域的方法學進步將推動GNN的廣泛採用。

動態圖是第一個重要的領域。迄今為止，大多數GNN研究都假設一個靜態的，不變的圖，但上述情況必然會隨着時間而發生變化：例如，在社交網絡中，成員加入（新節點）而友誼改變（不同邊緣）。在2020年，我們看到了一些將時間演化圖建模為一系列快照的努力，但是2021年將擴展這一新生的研究方向，重點是將動態圖建模為連續時間序列的方法。除了通常的拓撲結構之外，這種連續建模還應使GNN能夠發現圖中的時間結構並從中學習。

消息傳遞範式的改進將是另一個使人前進的進步。消息傳遞是實現圖神經網絡的一種常用方法，它是通過沿連接鄰居的邊緣「傳遞」信息來聚集有關節點的信息的一種方法。儘管很直觀，但是消息傳遞卻難以捕獲需要信息在圖形上長距離傳播的效果。明年，我們希望突破性突破這一範式，例如通過迭代學習哪些信息傳播路徑最相關，甚至學習關係數據集上的全新因果圖。

應用領域

去年的許多頭條新聞都強調了AI在實際應用中的新興進展，並且2021年有望利用這些進展。尤其是，依賴自然語言理解的應用程序可能會隨着對GPT-3 API的訪問變得更加可用而取得進步。該API允許用戶訪問GPT-3的功能，而無需他們訓練自己的AI，這本來就很昂貴。在Microsoft購買GPT-3許可證後，我們可能還會看到該技術也出現在Microsoft產品中。

在2021年，其他應用領域也可能會從AI技術中受益匪淺，人工智能和機器學習（ML）逐漸進入了網絡安全領域，但2021年顯示出將軌跡推得更陡的潛力。正如SolarWinds漏洞所突顯的那樣，公司正面臨來自網絡犯罪分子和國家行為者的迫在眉睫的威脅，以及不斷發展的惡意軟件和勒索軟件配置的威脅。在2021年，我們預計將積極推動先進的行為分析AI來增強網絡防禦系統。人工智能和行為分析對於幫助識別新威脅（包括早期威脅的變體）至關重要。

我們還預計，到2021年，默認將在邊緣設備上運行機器學習模型的應用程序將會增加。隨着處理能力和量化技術的進步，諸如谷歌的Coral等具有板載張量處理單元（TPU）的設備必將越來越普及。Edge AI消除了將數據發送到雲進行推理的需求，節省了帶寬並減少了執行時間，這兩者在醫療保健等領域都至關重要。邊緣計算還可以在其他需要隱私，安全，低延遲的區域以及世界上無法訪問高速Internet的區域中打開新應用程序。

總結

人工智能技術在實際領域中繼續激增，而Transformer結構和GNN的進步很可能會刺激那些尚未輕易適應現有AI技術和算法的領域中的進步。我們在這裡重點介紹了今年似乎有待改進的幾個方面，但是隨着今年的到來，無疑會有驚喜。俗話說，對未來尤其是對未來的預測很難，但對還是錯，2021年對於AI領域來說似乎是令人興奮的一年。