作者｜楊文??

編輯｜六耳

來源｜創頭條

Geoffrey Hinton（杰弗里·辛頓）是名副其實的AI教父。

上個世紀70年代，Geoffrey Hinton癡迷于計算機神經網絡這一領域，默默耕耘了近50年。即使他提出的神經網絡理論在長達20多年的時間里飽受質疑，Hinton仍然坐著“冷板凳”埋頭苦干。

2012年，Hinton和他的兩名學生創建了一家專注于“神經網絡”的公司，通過分析數百萬張照片打造出一款可區分動物、物體圖片的“神經網絡系統”，能識別常見物體，如花、狗和汽車，被視為當代AI的基礎。

最終，該公司在2013年被谷歌以4400萬美元收購，Hinton也由此加入了谷歌，并把深度學習技術帶進了谷歌的多項業務，直接把谷歌打造成了全球AI技術的“扛把子”。

2018年，Geoffrey Hinton、Yann LeCun和Yoshua Bengio因對神經網絡的研究獲得了當年的圖靈獎，而神經網絡正是ChatGPT、Bard等聊天機器人背后的奠基性技術。

不過，隨著AI在全球掀起的狂潮，這位AI教父卻慌了。

近日，Hinton告別了老東家谷歌，并在接受媒體訪問時表示，辭職為了“暢所欲言地談論人工智能的風險”。

“大多數人認為這（AI危害）還很遙遠。我過去也認為這還很遙遠，可能是30到50年甚至更長的時間。但顯然，我現在不這么想了。”

Hinton認為，谷歌和微軟以及其他大型公司之間的競爭，將很快升級為一場全球性競爭，如果沒有某種監管，這場競爭將不會停止，人工智能發展的速度會遠超我們的想象，并最終走向失控。

對此，Hinton?甚至直言“對自己畢生的工作感到后悔”。

這些年，被全球稱為“AI教父”的辛頓也始終忙碌于研發和實踐一線。毫無疑問，他是全球最有發言權的人之一。以下是我們摘錄辛頓從2016年至今，對AI?公開發表的觀點。從他的直接表述中，你更能看到他對AI認知的急劇變化：

時間：2016年

采訪者：《MACLEANS》

核心觀點：“有一種擔憂就是人工智能代表著人類即將被淘汰……我相信5年內不會發生這種事，而且我也相當自信它不會成為我必需解決的問題。”

1.對AlphaGo有一種比較盛行的看法就是害怕它會比人類更聰明，甚至會統治人類。對此，我認為人們需要明白深度學習在背后可以做到很多事，而且做的更好。它已經用于谷歌搜索和圖片搜索。在Gmail智能回復上也使用了深度學習，就在語音和視覺領域，我相信不久機器翻譯也會出現。而且它還將會用于其他像是氣象科學、節約能源、基因組學等領域的重點問題上。

2.顯然的，如果它們被錯誤使用，就會產生問題。任何新科技，如果被壞人使用，就會產生壞的影響。但這更像是一個政治問題而非技術問題。我認為，我們必需像看待挖掘機一樣看待人工智能。它在很多事情上的表現都要比人類好。而且要比挖掘機的好處多得多。

3.還有一種擔憂就是人工智能代表著人類即將被淘汰，害怕人類會因此不可避免的失去工作。我很難預測5年后會發生什么，但我相信5年內不會發生這種事，而且我也相當自信它不會成為我必需解決的問題。人們可以考慮這種事情。但考慮重點并非是因為技術有威脅就限制它的發展，而是如何改進我們政治系統，防止人們用它做壞事。

時間：2016年

采訪者：多倫多大學的作家Jennifer Robinson

核心觀點：“尋找全新類型的神經網絡是我現在覺得最激動人心的方向；要讓計算機能像人類一樣好地理解詩歌、笑話或諷刺，可能還需要非常長的時間。”

1.在語音識別、圖像解讀和機器翻譯等一些重要的任務上，深度神經網絡的表現已經非常好了。隨著我們的計算機越來越快、數據集越來越大，我確信這樣快速的進展還將繼續。

但我認為我們到目前為止所開發出來的人工神經網絡類型并不是最好的。可能還會有更好的人工神經網絡類型，能夠從遠遠更少的數據中學習，并且還能提供更多關于真正大腦的思考方式的見解。尋找全新類型的神經網絡是我現在覺得最激動人心的方向。

2.最近，由我們對于大腦的理解所啟發的人工神經網絡以及極大地拉近了人類和機器之間的表現差距。我覺得，這似乎已經證明了從大腦中汲取靈感的思想是正確的。

3.我認為計算機將最終能超越人腦的能力，但是超越不同的能力也將需要不同長度的時間。要讓計算機能像人類一樣好地理解詩歌、笑話或諷刺，可能還需要非常長的時間。

4.在五年之內，我們將能夠訓練出帶有一萬億個權重的神經網絡，這大概相當于一立方厘米的皮層。當然，有可能我們使用的學習規則要優于大腦的學習規則，所以也許一萬億個權重就足以讓計算機超越帶有數千萬億個權重的大腦。

5.我認為在相當長的時間內，我們不需要擔心機器會接管這個世界。一個更迫切的問題是自動化武器，例如攜帶炸藥的小型無人機。這種武器現在就可以制造。它們與生物或化學武器一樣可怕和無法接受，我們迫切地需要制定國際公約來阻止它們的使用。

時間：2017年1月

采訪者：外媒gigaom?

核心觀點：“我覺得我有生之年大概是看不到（真正的人工智能，即AGI）。不過，五年后會發生什么我們很難預測，所以我不去排除這樣的可能性。”

1.我有生之年是否會出現“真正的”人工智能，這取決于你對“真正的”人工智能定義是什么。如果你是說在自然語言、感知、推理、運動等方面都能和人類水平相當的人工智能體，我覺得我有生之年大概是看不到了。不過，五年后會發生什么我們很難預測，所以我不去排除這樣的可能性。

在十年前，很多?AI?工作者認為用神經網絡完成機器翻譯是不可能的，因為這需要讓神經網絡從原始訓練數據中獲取所有語言知識。但在今天，這就是機器翻譯使用的方法，而且是最好的。神經網絡翻譯顯著地縮小了機器和人工之間翻譯水平的差距。

2.說實話，我不太擔心現在大家經常討論的那些問題，就是說變壞的機器人會代替人類接管世界。我更擔心的是諸如希特勒、墨索里尼這樣的人在科技的幫助下可能會做的事兒。如果這些人擁有智能機器人，后果不堪設想。我認為現在最迫切的一件事就是對?AI?的軍事化制定相關的國際政策或者協議。

3.技術本身不是問題，問題是社會制度能不能保障每個人都受益。

4.深度學習的下一個飛躍是什么？目前，我們已經在一些近半個世紀里都沒有解決的難題上獲得了前所未有的進展。語音識別、圖像識別技術都已經獲得了巨大的進步，并且會變得更好。我相信，不久的未來計算機就能理解視頻里講了些什么。

5.二十幾年前，深度學習技術才出現在人們視野中，現在已經取得了非常驚人的成果。更出色的神經元類型和架構使得更深層次的網絡上可以進行更多，更好的學習任務。深度學習已經吸引了大量的人才和資金，我想這些還會一直持續下去。

時間：2017年3月

采訪者：福布斯

核心觀點：“大腦與現有（人工）神經網絡很不一樣。我們（大腦）基本上能夠非常好地找到高維度數據中的信息……這是電腦程序沒有的計算能力。”

1.大腦非常擅長處理高維度的數據，比如對視神經傳遞過來的信息處理，那相當于幾百萬個參數在短時間內迅速變化。并且大腦的處理非常準確，我們不會看到一只狗的時候說看到了大象……我們基本上能夠非常好地找到高維度數據中的信息……這是電腦程序沒有的計算能力。我們在低維度的數據上已經做得比較接近了，比如，在統計里面，可以用一個簡單的少量參數的模型，處理一些量不大的數據。

2.讓我感到神奇的是，大腦擁有的參數比訓練數據更多。這跟現有已經成功的神經網絡還是非常不一樣。現階段，（我們的神經網絡）一般訓練數據不會比權重參數多。但是大腦并不是這樣，大腦處理一秒的數據大概需要一萬個參數。我們對這樣的系統了解并不多，也不知道怎么樣讓這樣的系統很好的找到數據當中的結構。

時間：2018.12

采訪者：WIRED

核心觀點：“在之前的‘AI?寒冬’中，AI并沒有成為人們日常生活的一部分。而現在它是了。”

1.我一直很擔心致命自主武器的濫用。我認為應該設立類似《日內瓦公約》的法規來禁止它們的使用，就像禁用化學武器那樣。

2.人們無法解釋自己做很多事的工作原理。人們不知道自己是怎么決策的。如果你讓人解釋自己的決策，你就是強制他們編故事。神經網絡也有類似的問題。

3.你應該基于這些系統的執行效果來管理它們。運行實驗來看是否存在偏差，或者它會不會殺人。我認為我們必須像對待人類一樣對待人工智能系統：只看它們的執行效果，如果它們不斷遇到困難，那你可以說它們不夠好。

4.大腦解決問題的方法和我們大多數神經網絡有很大區別。人類有大約?100?萬億個突觸，人工神經網絡就權重的數量來說通常至少要比這個數字小?10000?倍。在學習一個片段的時候，大腦會使用很多很多的突觸來盡可能地學習到更多。深度學習擅長利用神經元之間較少的聯系進行學習，因為神經元之間有許多事件或例子需要學習。我認為大腦并不關心如何把很多的知識連接起來，它關心的是如何利用這些連接快速獲取知識。

5.目前的炒作不會導致“AI寒冬”，因為?AI?技術已經進入你的手機了。在之前的“AI?寒冬”中，AI?并沒有成為人們日常生活的一部分。而現在它是了。

時間：2020.10.20

地點：麻省理工技術評論的年度?EmTech MIT?會議

核心觀點：“深度學習足以復制所有的人類智慧”

1.人類的大腦有大約100萬億個參數，或者說突觸，而我們現在所說的一個真正的大模型，像?GPT-3，有1750億。它比大腦小一千倍。GPT-3現在可以產生看似合理的文本，但與大腦相比仍然很小。但隨著取得一些概念上的突破，例如引入Transformers，我認為深度學習足以復制所有的人類智慧。

時間：2023.3

采訪者：CBS

核心觀點：“有些人認為實現通用人工智能可能只需要5年，那是荒謬的，但我不會完全排除這種可能性。而幾年前我會說絕不會發生這種情況。”

1.我認為當前是AI機器學習領域的關鍵時刻。ChatGPT表明，這些大型語言模型可以做一些令人驚奇的事情。

2.ChatGPT知道的比任何一個人都多。它在智力競賽中表現出色，可以寫詩，但在推理方面并不擅長。我們在推理方面做得更好。

3.我們現在正處于一個過渡點，其中ChatGPT像一個“白癡天才”，它也并不真正了解事實真相。它接受了大量不一致的數據訓練，試圖預測下一個網絡用戶會說什么。人們對很多事情有不同的觀點，而它必須有一種混合所有這些觀點的方式，以便可以模擬任何人可能說的話。這與一個試圖擁有一致世界觀的人非常不同。

4.我認為谷歌在發布聊天機器人時會比微軟更謹慎，并且它可能會附帶很多警告，這只是一個聊天機器人，不要一定相信它所說的……但是，誰來決定什么是壞事呢？有些壞事是相當明顯的，但是很多最重要的事情并不是那么明顯。所以，目前這是一個很大的懸而未決的問題。我認為微軟發布ChatGPT是非常勇敢的。

5.直到不久前，我認為在我們擁有通用人工智能之前還需要20到50年的時間。而現在我認為可能是20年或更短時間。有些人認為可能只有5年，那是荒謬的。但現在我不會完全排除這種可能性，而幾年前我會說絕不會發生這種情況。

6.我認為AI消滅人類的幾率介于0%和100%之間。我認為這并非不可能。就我所說，如果我們明智的話，我們會努力發展它，以免發生這種情況。但是，令我擔憂的是政治局勢。確保每個人都明智行事是一個巨大的政治挑戰，也似乎是一個巨大的經濟挑戰，因為公司的利潤動機可能不會像為他們工作的個體那樣謹慎。

7.我擔心美國人會試圖用AI士兵替換他們的士兵，他們正朝著這個方向努力。

8.我認為AI技術將使工作不同，人們將從事更有創造性的工作，而較少從事例行工作。一旦這些工具開始有創造性，就會創造出更多的東西。這是自工業革命以來最大的技術進步。我認為AI在規模上與工業革命、電力、甚至是輪子的發明相當。

時間：2023.5.10

采訪者：《麻省理工科技評論》的人工智能高級編輯威爾·道格拉斯·斯蒂爾

核心觀點：“過去我認為計算機模型沒有大腦好，但在過去的幾個月里我完全改變了看法；它們會為了獲得更多控制而失去控制。失控AI可能讓人類只是智慧演化過程中的一個過渡階段。”

1.GPT-4讓我意識到AI模型和我們的大腦不同，過去我認為我們正在開發的計算機模型沒有大腦好，但在過去的幾個月里我完全改變了看法。我認為計算機模型可能是以一種相當不同于大腦的方式運作。它們使用反向傳播，可能更善于學習。

2.GPT-4可以通過副本以萬倍于前的速度進行共享式學習，而人類做不到這一點。GPT-4等大型語言模型知道的比我們多得多，它們具有關于所有事物的常識性知識，它們可能比一個人知道的多1000倍。

3.我明白推理是我們人類的強項，然而GPT-4在幾天前展示出的表現使我感到震驚。它完成了我認為不可能的常識性推理。GPT-4的智商大概是80或90左右。

4.AI如果比人類更聰明，人類將很容易被操縱。即使它們不能直接拉動杠桿，它們肯定可以讓我們去拉動杠桿。

5.人工智能在醫學和其他方面非常有用，人類很難停止發展它們。但在破碎的政治系統環境之下，AI的惡意使用難以避免，但對齊解決遙遙無期。人們應該聚在一起，認真思考這個問題。

6.子目標系統可能讓AI產生自我動機。如果這些智能體會編程并具有執行這些程序的能力，它們會為了獲得更多控制而失去控制。失控AI可能讓人類只是智慧演化過程中的一個過渡階段。

7.拔電源就好了？恐怕你做不到，想想電影《2001 太空漫游》里面的人工智能 HAL 是怎么做的。

（注：電影《2001 太空漫游》中，一艘發現號太空船被委派到木星調查訊號的終點。太空船上的人員包括大衛·鮑曼博士、法蘭克·普爾和一臺十分先進且具有人工智慧的超智慧電腦 HAL 9000 來控制整艘太空船。此外，太空船上還有三位正在處于冬眠狀態的科學家。但是遠航之旅逐漸變成一趟可怕的旅行，HAL 發現大衛與法蘭克打算將他的主機關閉。對 HAL 來說，關閉它的主機代表會殺死它，所以 HAL 決定先發制人，殺害那三位冬眠中的科學家以及用制造假故障的狀況讓法蘭克去太空船外修理，然后用 HAL 的小型艇將法蘭克的氧氣剪斷，導致法蘭克缺氧而死。）

8.資本主義制度以及國家之間的競爭關系，停止發展AI是不可能的事情。所以簽署請愿書說請停止是愚蠢的。我希望讓美國和其他國家達成一致，就像在核武器上所做的那樣，在試圖阻止其威脅的過程中進行合作。

9.我擔心的是，生產力的提高將導致更多人失業，現行的政治制度會強化貧富差距，社會暴力程度也可能逐漸升級。為改善這種狀況，我們可以考慮為每個人提供基本收入。然而，這項技術是在一個并非為每個人利益而設計的社會中發展起來的。

.END.

圖片來源｜網絡

您也可以關注我們的官方微信公眾號（ID：ctoutiao），給您更多好看的內容。