人工智能未來會超越人類智慧嗎？如今AI行業在這個問題上已基本達成共識。

(資料圖)

北京智源研究院給出了通用人工智能（AGI）的釋義：一定是比人類強大的智能，才真正叫AGI。所以，自主智能、超人智能、強人工智能，其實講的都是一種全面超越人類的智能。

于是當生成式人工智能（GAI）模型ChatGPT誕生，沉寂已久的AI行業再度沸騰之時，關于人工智能安全的集體思辨隨之發生。

“歷史上從來沒有過更智能的事物被不那么智能的事物控制的先例，假如青蛙發明了人類，你覺得誰會取得控制權？是青蛙，還是人？”——AI教父、圖靈獎得主、“深度學習三巨頭”之一Geoffrey Hinton；

“想象一下，未來的AGI系統或許具有10萬行二進制代碼，人類監管人員不太可能發現這樣的模型是否在做一些邪惡的事情?！薄狾penAI CEO Sam Altman；

“我們應該暫停開發比GPT-4更強大的系統，不是說我們應該暫停人工智能，暫停的目的只是讓人工智能更像生物技術。讓機器具有可解釋性是關鍵?！薄皶和I研究倡議的發起人”、 現任麻省理工學院物理學終身教授Max Tegmark；

這些觀點摘錄自堪稱全球最高規格的AI行業大會“智源大會”。今年6月，出席第五屆智源大會的嘉賓包括4位圖靈獎得主：Geoffrey Hinton、Yann LeCun、Joseph Sifakis和姚期智，OpenAI CEO Sam Altman，張亞勤等知名院士學者，以及DeepMind、Midjourney等知名人工智能團隊。

主辦方智源研究院，是一家在輿論場上極為低調的人工智能非營利研究機構。2018年，即OpenAI第一代GPT大模型發布次年，智源研究院成立。成立之初，智源研究院的目標清晰而龐大：深挖人工智能，產生多項在20年后回看仍有意義的原始創新成果。

張宏江是這場“豪賭”中被寄予厚望的靈魂人物。他做過研發，做過管理也做過投資，被熟知的身份是金山集團及金山云CEO、微軟亞洲研究院創始人之一。張宏江被業界稱為計算機視頻檢索研究領域的“開山鼻祖”，是世界計算機領域影響因子最高的科學家之一，現任美國國家工程院外籍院士。

“宏江是最早一波將科研落地進入產業的科學家，這二十年培養了不少人工智能人才?！毙∶卓萍悸摵蟿撌既它S江吉告訴《深網》；前字節副總裁、現清華大學智能研究院首席科學家馬維英向《深網》表示，“宏江是全球范圍內少有的能將學術和產業都做到一定水平的科學家。”

張宏江一直對年輕人充滿信心，“一代比一代強，他們的包袱比我們身上的包袱少，有自信，知識面比我們寬，全球的視野比我們在他那個年紀的時候要強太多?！?/p>

出任智源研究院理事長后，張宏江從零開始聚沙成塔，搭建團隊。2020年，智源成立大模型攻堅團隊，2021年推出了“悟道2.0”大模型，參數量達1.75萬億，是GPT-3.5的近10倍，是當時中國首個、全球最大的萬億級模型。今年6月智源大會上，智源發布了完整的悟道3.0大模型系列（包含語言大模型系列、大模型語言評測體系、視覺大模型系列、多模態模型等），并進入全面開源階段。

“我是所謂出道（退休）了的人，我不需要為了自己的位置而做一些事情，我不會再做一些重復的事情。”在接受《深網》專訪時，張宏江稱把研究做出來是智源研究院的方向，“不能是為了出幾篇文章”。

張宏江在《深網》采訪中直指人工智能研究的問題，從根源上回答了為什么是微軟抓住了此次人工智能浪潮的機會。張宏江認為，基礎研究，要么不做，要么一定要把它當慈善來做，就不要想短期的回報。

“我們要問，有沒有環境能夠容忍科研者在低潮的時候做一些事情。反過來也要問自己，我們的科研從業人員有多少是出于對他做的事情的熱愛？”

張宏江認同《為什么偉大不能被計劃》一書中的觀點，探索任何復雜問題的過程都將充斥無數欺騙性的“踏腳石”，目標可能是錯誤的指南針。“一切努力都是為了提高概率。資助機構經常問我一個問題，五年內你能實現什么？我不能保證我能帶來什么，但我成功的可能性會增加?！?/strong>

過去三年，《深網》與張宏江博士多次對話，話題涉及基礎科學研究、大模型、人才教育、AI技術大爆炸等。以下為《深網》與張宏江的對話實錄，在不改變原意的基礎上有所刪改：

《深網》：為什么是微軟抓住了人工智能的機會？

張宏江：核心的核心是，我們不能每次在一個風口來過后，我們看到一些成功者，就想問為什么我當時沒做到？為什么中國沒有做到？為什么清華或者北大沒做到？

我們要問，有沒有環境能夠容忍這些人在低潮的時候做一些事情。反過來也要問自己，我們的科研從業人員有多少是出于對他做的事情的熱愛，有多少只是當成一個職業？

神經網絡實際上是上一波人工智能熱潮里的核心算法。在80年代末90年初開始技術退潮的時候，人們開始排斥或者說放棄神經網絡的相關研究，開始轉向統計學習。這本身不是壞事，當時神經網絡確實沒法往下走，研究一定是會走很多彎路。

當時沒有人再投資神經網絡，但杰弗里 · 辛頓(Geoffrey Hinton)（谷歌副總裁兼工程研究員、Vector研究所首席科學顧問、多倫多大學名譽教授，亦是倫敦大學學院（UCL）蓋茨比計算神經科學中心的創立者。深度學習“三巨頭”之一）并沒有放棄，還在持續做這件事。

而楊立昆（Yann LeCun）（法國計算機科學家，擔任Facebook首席人工智能科學家和紐約大學教授，2018年圖靈獎得主，被稱為卷積網絡之父。深度學習“三巨頭”之一）讀博士的時候恰恰是上一輪AI泡沫破滅的時候，他并沒有受到影響，還是持續研究神經網絡。

如果我們看杰弗里 · 辛頓(Geoffrey Hinton)或者是楊立昆（Yann LeCun）這樣的人，我們應該從他們身上學到的是，他們對于自己所做研究的熱愛，不會因高潮低潮而改變。

當職業成本太高就難有突破性的東西。但這是一個生態的建設，我們希望智源能持續為良性循環的生態做出貢獻。

《深網》：這意味著科研者要在理想和現實二者間進行抉擇？

張宏江：我們已經不是陳景潤時代，做科研要自己擠在一個角落里，既沒有好的辦公室，也沒有好的生活條件。

一方面我非常同意要大力提高科研人員待遇，另一方面我想強調，科研人員的第一選擇應該是比較自由開放的環境。自由和高收入在市場上往往會存在一定矛盾，但是否要隨波逐流，成為不斷追求短期市場回報的那一批人，在于每個人的選擇，正是無數的選擇寫成了我們一生的成果。

智源在一開始研究OpenAI的時候有一個分析結論是，（他們愿意做因為）他們工資高，平均（年薪）25萬美金。但我告訴團隊，OpenAI的這些人如果去Google的話，他能拿50萬美金。這波人是有理想，真的想做這件事的，至少他們愿意為這種情懷拿出三年五年。

《深網》：為什么是三年五年？

張宏江：我們不能要求一個人一輩子都有理想，或者一輩子靠家里生活。

《深網》：大公司平臺化產品追求快速迭代，但科研不能功利化？

張宏江：產品和公司一定是這樣追求。但我們做研究，如果大量的工作就僅僅為了在自己簡歷上多放幾篇文章的話，實際上是一種浪費。大部分文章，其實讀的人都很少。真正的價值應該如何體現？這是值得科研人員好好思考的問題。

《深網》：看起來商業公司并不適合做基礎研究。

張宏江：沒有，關鍵是這些公司要想清楚，公司的定位以及公司的利潤想拿來做什么。

有人曾經來微軟研究院問我，什么是最好的體系？我說基礎研究，要么不做，要么你一定要把它當慈善來做，就不要想短期的回報，不論政府還是企業。管理基礎研究人員也不能像管工程師那樣，看每個禮拜都做了什么。

如果我們太多時間花在短期的考核上，我們沒法做事。

微軟在1993年做微軟研究院的時候還是家小公司，但比爾·蓋茨其實想的很清楚，他就希望微軟研究院找最聰明的人做他們想做的事，這種理念讓微軟研究院能夠做成。

微軟研究院的一些技術對微軟產品也有貢獻，但微軟研究院是完全像一個大學的計算機系進行管理的。比爾·蓋茨喜歡看到一些新的技術，他考慮過商業后也覺得，微軟能夠每年拿出幾億美金來做這件事，不求短期回報。

《深網》：給予研究人員充分自由的環境后，他們是否會出現迷茫以及找不到錨點的問題？如何解決？

張宏江：之前我在國內一個頂尖大學和青年教師做過一次所謂的職業討論，一位年輕的教授提出一個問題：我們一方面有KPI的要求，要申請基金、出文章、評獎，另一方面我們也知道真的要做突破性的研究需要聚焦，需要很長時間沉下去，這兩個矛盾怎么平衡。

我說，如果這個問題是國內三流學校的某位教授提的，我會非常同情他，給他出各種各樣的主意。但我們一流大學的教授不應該提這樣的問題，你要對自己充分的自信。

如果你相信自己是一流的人才，又獲得了一流的資源，你不應該去畏懼失敗，事實上失敗的幾率沒有那么大。作為管理者，如果你認為這個人是一流的人才，你就應該放心大膽的讓他做決策。科研體系里面的信任非常重要，當我們互相有信任的時候，不應該再糾纏于失誤的可能。

KPI就是唯數字論，最后一定要數字過關。這個我覺得不光是科研體系的問題也是很多管理體系的問題。

因為管理人的能力不夠或不夠專業，所以一定要用數字來考察大家。比如你要有多少論文，論文還分哪個檔次的論文。但我們做事情，尤其是做科研不能這么做，你需要有很多的探索，很多的失敗。先有大量的失敗，才可能有比較好的成果，這也是我這么多的年做科研管理的一些心得。

《深網》：您是否會劃定容錯率？

張宏江：做研究和做產品不一樣，做產品失敗了就是一個失敗的產品，但做研究比如你失敗100次，只要做出一個足夠改變世界的東西，那你就成功了。你不可能定KPI，說10個項目我要成功7個還是成功3個。

《深網》：評價一個東西是否有價值，有沒有可以量化的指標？

張宏江：不用量化。第一你是不是在最前沿？第二你是不是在做別人以前沒有做過的事情？第三你是不是有最好的人去做這件事？我們談科研一定是說要對這個問題有好奇心，聽上去好像比較簡單，但你看中國科研的問題在哪兒？職業化，就是做科研是職業不是愛好。

職業化就會被KPI推動，而不是被想解決問題的沖動推動。我們找人格外看重三點，第一要找因好奇心和解決問題沖動而推動的人，第二是有深入理解問題能力的人，第三是有團隊能力的人，這樣才能做大事情。

《深網》：您認為我們現在處于AI技術發展的哪一個階段？

張宏江：AI過去的十年是積累的階段，今天會看到一個大爆炸的時點。這個大爆炸實際上是在深入到每一個可能的應用場景里面去。這也意味著AI的門檻在降低，或者說AI本身變成一個基本的技術能力。

所以我也不認為大學里設人工智能系是件特別好的事。它已經成為一個基本技能的話，計算機系的學生都要學啊。就像你今天在計算機系要學系統架構或者學數據庫，你不會再設一個數據庫系，或者系統架構系。

《深網》：大爆炸期會持續多久？

張宏江：最少10年。

《深網》：李開復不支持將AI比喻為類人腦，認為人類對人腦的了解太少，您認同嗎？

張宏江：我們不應該把今天的人工智能、深度學習說成是類人腦，或者是像人腦一樣思考，確實不是。今天的AI不是人腦這種思維方式的一個很重要的原因，是我們對人腦的認識很少，所以我們更應該去學習人腦。

《深網》：OpenAI部分前核心人員在2021年新成立了一家公司Anthropic，目的是解決AI的安全問題。他們認為“研究者們正在瘋狂地把一些‘一知半解’的知識用于神經網絡，并且把這樣開發出來的AI系統用于越來越高風險的場景，卻又缺乏對可解釋性，對安全的思考?！蹦趺纯催@個觀點？

張宏江：對于這個技術判斷我不太想多說，我本人未必能夠做出更好的判斷。但我想說的是，他們從OpenAI出來，做新的公司探索新的方向，新的方法論，本身就是他們產業科技界創新能力的體現。他這個東西現在不是主流，但可能10個里面有3個或者有1個會成為主流，我也希望中國多出現這種非主流的探索。

《深網》：智源設有AI倫理中心，您怎么看AI的安全問題？

張宏江：好消息是AI的倫理和安全這件事在中國已經變得非常popular，大家已經認識到這個問題很重要，反而我們自己并不需要花太多時間來做這件事了。

《深網》：未來的AI發展將會給人類社會帶來怎樣的根本性變化？

張宏江：尤瓦爾·諾亞·赫拉利(Yuval Noah Harari)寫過一本書叫《未來簡史》，他想強調的是技術的發展會導致人類的分化，一些人會永遠落在技術后面成為所謂的弱者，或者說閑人。

他這個說法可能有點夸張，但我覺得我們是時候來考慮這個問題了。當技術發展的速度超過人的學習能力的時候，他的工作會被機器所取代，如果不轉變就不可能再找到另外的工作。

《深網》：是必然會發生的嗎？

張宏江：必然的。從工業革命到現在信息革命，新技術滿足的精神需求越來越多。Facebook不生產任何衣服也不生產任何糧食，但他的公司營收比任何一家做衣服或者做糧食的公司都要多。

技術所帶來的兩極分化可能最終會導致經濟上的兩極分化變得越來越厲害。

我們現在想想為什么這么多人反對全球化。完全的全球化意味著這個世界上這一份工作只要在另外一個地方比你這個地方便宜，這份工作就會在這消失。按這個思路想，機器人時代這份工作只要有個機器人能做，這個工作就會消失。

但一方面我們不可能停止或者拖慢技術的發展，另一方面人們的適應和學習能力也不太可能加速。這個矛盾未來怎么解決？這種挑戰用傳統的方式可能解決不了。信息技術出現后，新產生的工作比他消滅的工作要多，技術發展能夠自己把這個問題解決掉。

《深網》：技術發展會帶來世界秩序的重建嗎？

張宏江：當大部分變成閑人的時候，社會秩序必須得重建。這種秩序未必是國家的變化，但經濟體系是一定要變的。

“大模型是一個系統問題、工程問題”

《深網》：當初為什么會做智源研究院？又為什么會拍板做大模型？智源的悟道大模型是中國首個，也是全球最大的萬億級模型。

張宏江：當初北京市提出一個想法就是怎么能推動AI基礎生態建設，吸引人才、出成果，包括科研成果和產業成果。

我自己的想法很簡單，我不認為我們可以比清華做得更好，短期內也不覺得我們有資源和能力再做一個類似微軟研究院或中科院的研究院。

AI走到今天，我當時很清晰的想法就是大數據驅動大系統，我相信計算機是一個系統科學，所以我們一定要做大模型、大系統。今天的突破進一步證明了我的直覺。

大模型是一個機會，生命模擬是一個機會，AI+科學是一個機會，這三個方向的研究我們現在都在做得越來越實。

人工智能經過10年的發展至今，我們已經不能再把它看作一個純算法問題，它一定是一個系統問題，一個工程問題。今天的大模型本身就是一個系統問題、一個工程問題。

《深網》：所以說不能僅靠算法工程師？

張宏江：對，這已經完全變成系統工程。你看大模型的代表性文章，就是GPT-3那篇文章，三十幾個作者，包括工程、算法、數據等方面。不光需要懂深度學習的，還需要懂計算機架構、訓練架構、計算機平臺的。

《深網》：如何將不同細分領域的領軍學者揉成一個有凝聚力的團隊？

張宏江：做大模型、大系統，我們需要一種新的組織結構。傳統的研究院架構沒法做成GPT-3大模型這種事。

傳統研究院，會按照不同領域不同研究方向招人，然后按專業各自分組，每個組都有一個manager，很容易變成一個孤島。

因為每個人都覺得自己目前做的那個問題很重要，都想往前走，然后互相做的就是搶資源。

智源研究院恰恰不是這么來組織的，不一定要用院里的研究員，而是看大模型研究需要什么能力，再去找相關領域的領軍團隊。

《深網》：大模型需要集中力量辦大事，但很多企業更想把核心技術掌握在自己手中，智源怎么解決這個矛盾？

張宏江：大的平臺企業，他們一定是希望什么東西都自己做。我們希望給那些中小企業提供技術支持。他們沒有能力自己做，也不希望大的平臺公司在這方面形成壟斷。

OpenAI成立之初的使命就是不希望AI被幾個巨頭壟斷。我們也希望推動技術本身的發展，讓很多中小企業不要因為當前能力的局限而錯過一些機會。我們提供技術，公司進行工程化和產品化。

《深網》：您一直強調您成立智源并非是脫離退休狀態回到臺前，為什么堅持做幕后的角色？

張宏江：我的精力和聚焦的能力都不允許我在一線，還是應該讓年輕人來做，功成不必在我。

而且你發現年輕人的悟性和學習能力都比你強，也確實沒有必要在前面擋著別人。35歲以后，你的經驗會開始彌補你的創造性。所以這時候，你把自己的心態和精力調整一下，去支持年輕人，讓年輕人的研究變得更加有效，其實也很好。

《深網》：科研糾錯成本高，引路人很重要。

張宏江：我回國的時候已經39歲了，當時帶著團隊一撥20多歲的博士生和博士后，大部分工作是他們做出來的，但反過來問他們當時在學校為什么做不出來同等的成績？引路人、鼓勵他們的人或者跟他們討論的人很重要。

今天我們中國的科研投資如此之大，我們做計算機的科研人員如此之多，而我們還沒有在計算機領域成為世界領軍。不是年輕人不夠努力或者年輕人不夠強，50歲以上的這撥人也非常關鍵——他們是否還能保持對事業的熱情？他們當初選擇這個行業是因為成績好，還是因為熱愛？

今天我們老一輩學者如果還在讀論文的話，證明他還保留好奇心和熱情，再加上他們的經驗，他們一定能跟年輕人搭起一個非常好的團隊。

年輕人非常強，再過20年他們一定會是世界領軍。

《深網》：您曾說不能跟風做研究院，在您看來如今的人工智能研究院與20年前的軟件學院有什么不同？

張宏江：第一點，教育的本質不是說教會學生人工智能的某一門技術，也不是教會深度學習的某一種調參方法，那可以叫職業學校來做。大學一定是培養人的學習能力、認知能力、思考能力、批評能力。

第二點是技術本身是永遠變化的。50年前大學里最吃香的專業是化工，30年前是電子工程，今天是人工智能。

任何一個熱門的東西過了5年后都會不熱。5年后這個風過去了，人工智能這個系撤掉還是不撤掉？為什么不能在計算機系或者電子工程系里多開一些人工智能的相關的課程？就像現在軟件學院做的事情跟計算機學院沒有什么區別了。

《深網》：科學家如何成功轉型為企業家？

張宏江：我始終不認為我自己是一個特別成功的管理人員，更不是成功的企業家。

就轉型的話，我在微軟后幾年也一直在做產品研發的管理，也看過一些產品銷售的問題，到金山做CEO，這中間并不是一步跳過來的。

《深網》：但雷軍曾三顧茅廬請您出任金山CEO，他曾說他看中您是因為覺得您的領導力很強。

張宏江：我們不管別人怎么說，我對自己有自己的認識。我們不應強求自己一定要為了跨界而跨界。一個人的最佳狀態就是能在自己喜歡的事情上持續保持熱情，持續做出成果。我本身之所以去產業界，其實是源自我對于挑戰的渴望。

《深網》：科學家、CEO、投資人這三重角色在您做智源研究院時是否帶來了不同的視角？

張宏江：在智源研究院理事長這個身份上，三種角色會隨機跳轉。我們在計劃和衡量一個研究題目的時候，我完全是學者的態度去看這個題目本身的學術價值、突破的可能性有多大，不會看商業價值。而如果在評估一個科技成果轉化項目時，我會把所有的學者思維抹掉，你要告訴我三年以后怎么賺錢。

我非常喜歡跟年輕人在一起。我的樂觀情緒來源于，我們真正看到一代比一代強，他們的包袱比我們身上的包袱少，有自信，知識面比我們寬，全球的視野比我們在他那個年紀的時候要強太多。

《深網》：您強調科研人員的passion非常重要，熱愛能夠被培養嗎？

張宏江：好奇心或者對于一件事情的熱愛確實很難培養，某一個領域讓你真的感興趣才能培養出來。

應試制度對好奇心本身不是件好事。我們每個人的IQ都有限，如果應試要求占掉你太多精力，可能就沒有那么大的帶寬來關心這些探索性的東西。

我們看今天大學的課程，對比《費曼物理學講義》這樣的書，顯得太過枯燥。中國大學的教育似乎培養的都是工程師，卻忽略了很多圍繞“育人”本質的工作。

譬如，很少去講一個物理定理的來龍去脈，科學家是個什么樣的人？新發現是在怎樣的情況下產生的？當時的問題是什么？例如，人們是怎樣從認為太陽圍著地球轉到發現真相是反過來的，又是怎么發現地球不是平的而是圓的？像這些有趣的小故事都講的太少太少，但它們對培養人的興趣至關重要。

本文作者：程瀟熠，來源：深網，原文標題：《對話張宏江：AI大爆炸至少將持續十年》