首頁 > 科學 > 查看文章

深度學習的冬天什么時候到來?

    發表時間:2019-09-13 05:53

從 2016 年 AlphaGo 戰勝李世石掀起深度學習的熱潮,到如今深度學習寒冬論甚囂塵上,短短兩三年時間,深度學習被唱衰,如今在產業互聯網的高速發展下深度學習又該走向何方?未來的發展方向在何方?

圖 | “深度學習”入選 2013 年《麻省理工科技評論》“十大突破性技術”

深度學習技術自身的局限性

深度學習畢竟是機器學習,不會像人一樣思考,這就使得深度學習存在著很大的局限性。對于大多數任務而言,要么不存在相應的深度神經網絡能夠解決任務,要么即使存在這樣的網絡,它也可能是不可學習的。

通過堆疊更多的層并使用更多訓練數據來擴展當前的深度學習技術,只能在表面一緩解一些問題,無法解決更根本的問題,比如深度學習模型可以表示的內容非常有限,比如大多數你想要學習的程序都不能被表示為數據流形的連續幾何變換。

圖 | 圖形時間線展示了從 1990 到 2015 年幾種主要深度學習架構

另外一點比較突出的問題在于深度學習的泛化能力不夠,或者稱之為只有局部泛化能力。而我們人類不會,我們通過將事務進行抽象和推理的手段,可以做到少樣本或者零樣本學習。對于我們人類而言,我們有著極端泛化能力。

比如說,我們想要學習讓火箭登錄月球的正確發射參數。

如果使用深度網絡來完成這個任務,并用監督學習或強化學習來訓練網絡,那我們需要輸入上千次、甚至上百萬次發射實驗。相比之下,我們人類可以利用抽象能力提出物理模型(火箭科學),并且只用一次或幾次實驗就能得到讓火箭登錄月球的精確解決方案。同樣,如果你開發一個能夠控制人體的深度網絡,并且希望它學會在城市里安全行走,不會被汽車撞上,那么這個網絡不得不在各種場景中死亡數千次,才能推斷出汽車是危險的,并且做出適當的躲避行為。將這個網絡放在一個新的城市,它將不得不重新學習已知的大部分知識。但人類不需要死亡就可以學會安全行為,這個也要歸功于我們對假想情景進行抽象建模的能力。

看來,深度學習和真正意義上的智能有著極大差距。語音識別、智能翻譯、圖像識別、AlphaGo、自動駕駛….. 盡管人類在深度學習領域取得了不小的進步,但是距離人類級別的人工智能仍有著很大距離。

深度學習技術該走向何方?

深度學習帶來了人工智能的第三次熱潮,大量資本和人才紛紛涌入人工智能領域,關于人工智能的創業公司迅速增長。據最新發布的《中國新一代人工智能科技產業發展報告》統計,2018 年全球人工智能領域專利申請量達到 13 萬余件,我國人工智能企業占世界人工智能企業總數的 21.67% ,排名世界第二。

技術不同于科學研究,遲早要尋求回報。人工智能風口下的初創公司,只有精耕產品需求,使解決方案更加的解決客戶難題,才能發揮技術的價值。

另一項數據則顯示我國 90% 的 AI 公司由于未找到商業變現的途徑,處于虧損狀態。但也有一些企業借創新的技術,過硬的實力,全鏈的產業落地模式,在產業互聯網時代受到資本的寵溺,一躍成為行業獨角獸,如第四范式、字節跳動、寒武紀科技、云從科技、馭勢科技、曠視科技、商湯科技、圖森未來、依圖科技等高科技公司。

國內外各大科技巨頭公司紛紛進軍深度學習領域,無論是國外的谷歌、亞馬遜、Facebook,還是國內的百度、阿里、騰訊等科技巨頭公司紛紛開源了自己的深度學習框架。產業互聯網時代,更多人工智能公司追求商業落地,將技術賦能場景。

我們如何克服深度學習的局限性并通向通用智能?眾多科學家對此也進行了解答:

在未來,模型將會融合算法模塊與幾何模塊,前者提供正式的推理、搜索和抽象能力,后者提供非正式的直覺和模式識別能力。——《Python 深度學習》

AlphaGo(這個系統需要大量的手動軟件工程和人為設計決策)就是這種符合人工智能和幾何人工智能融合的一個早期的例子。

此外,通過使用存儲在可復用的子程序的全局庫(這個庫隨著在數千個先前任務和數據集上學習高性能模型而不斷進化)中的模塊化部件,這種模型可以自動成長,而不需要人類工程師對其進行硬編碼。隨著元學習系統識別出經常出現的問題解決模式,這些模式將會被轉化為可復用的子程序(正如軟件工程中的函數和類),并被添加到全局庫中。這樣就可以實現抽象和極端泛化能力。

因此,這種永久學習的模型生長系統可以被看作是一種通用人工智能(AGI artificial general intelligence)。

為了達到這個目標,多年來,深度學習領域一直處于所謂的人工智能革命的最前沿。許多人相信深度學習將帶領我們進入通用 AI 時代。但從過去的風口浪尖,到如今的塵埃落地,浪潮一再的退去。計算機視覺與 AI 專家 Filip Piekniewski 曾警示預測人工智能的冬天就像是猜測股市崩盤——不可能精確地知道發生的時間,但幾乎可以肯定會在某個時刻發生,就像股市崩盤之前,有跡象表明會發生危機,但在當時的環境中,卻很容易被大家忽視。

深度學習已經出現了明顯的下降跡象。人工智能將何去何從?深度學習將會走向何方?

2019 年 10 月 19 日,中國計算機大會將就“深度學習的冬天什么時候到來”的話題開展論壇,由中科院計算所研究員山世光擔任論壇主席。這場大會以“智能+引領社會發展”為主題,將邀請多位國內外計算機領域知名專家、企業家到會做特邀報告,同時還有 80+ 場技術論壇、20 場活動及展覽展示等。

未來充滿了不確定,但我們可以為這個冬天做好更多的準備。

論壇主席介紹

山世光:中科院計算所智能信息處理重點實驗室常務副主任/研究員,計算所博士生導師,中科視拓創始人/董事長。

山世光研究員過去 20 年來一直從事以人臉識別和情感識別為代表的計算機視覺、模式識別和機器學習等學科領域的前沿基礎研究和應用研究,做出了許多值得關注的學術貢獻,如提出了若干以經驗與數據聯合驅動為指導思想的視覺特征提取和表示學習方法;在國際上較早開展了以黎曼流形為視頻人臉表示的理論方法,引領同行從黎曼流形表示和測度學習的視角研究視頻識別問題;以多視/域局部結構一致性為約束,尋求異質數據的公共表示,較好的解決了異質模式比對和跨域知識遷移問題。

今年的大會主題是“智能+引領社會發展”,現今無論在傳統產業智能化轉型升級過程中,還是新興產業飛速發展進程中,乃至社會生產生活各方面,智能+無處不在,智能作為技術基礎引領著社會發展,未來的社會將是智能化社會,將是與 AI 共舞的社會。

CNCC2019 展覽展示將有科技巨頭、行業獨角獸、高校科研機構、初創企業等悉數參加,將為所有和計算領域相關的學術新進展、應用新技術、創意新理念提供展示平臺,同時也為商業合作、投融資與創業洽談提供高效交流平臺。

2019 中國計算機大會等著您的到來!

戰略合作媒體

責任編輯:

相關推薦

美國經濟是否陷入衰退?這12個方面或指明信號
富力防線又玩歡樂足球?托西奇也送點 馬里擴大領先
避險天堂收益卻屢創新低 安全港其實并不安全?
暴力美學!阿瑙轟出無解世界波 杜佳無反應只能目送
全球經濟遭受重創 衰退警告接踵而至
貝尼特斯期待戰勝國安 周挺震驚楊智不在一隊了
安盛天平走,國華人壽留,天茂集團保險布局上演“乾坤大挪移”
富力防線又出問題!姜積弘送紅點 索薩點射斬首球
中式臺球后繼有人 “00后”小將承包中國公開賽男女組冠軍
@圍棋“七冠王”柯潔:這份大學新生指南請收好
新世界百貨中國(00825)委任張輝熱為公司首席執行官
大地教育(08417)第一財季股東應占虧損同比擴大17.11%至243萬港元
金融大瓜來了!長江證券研究所被員工實名舉報,爆出多項行業潛規則
易還財務投資(08079)首季股東應占虧損同比收窄80.67%至62.7萬港元
梅西百貨(M.US)Q2歸母凈利潤同比降近五成 盤前股價跌超14%
婆媳因抱孩子的問題爭吵,醫生告訴真相后,倆人和好
奶粉喂養寶寶,這3個細節最容易被媽媽忽略,愿你不在其中
中國三三傳媒(08087)中期股東應占虧損同比收窄41.1%至761萬元
寶寶什么時候學“站”最合適?醫生:不早于這個年齡都正常
聚利寶控股(08527)中期虧損130.6萬新加坡元 同比收窄9.7%
寶寶成長日記:學爬爬可真是一件不容易的事情
非凡中國(08032)中期股東應占溢利同比增12.36倍至9.17億港元
真會說!北大學子吳謝宇最新供述,輕松擊中我們家庭教育的軟肋
新股消息|工程承建商富霆遞表港交所,前五大客戶貢獻約90%的收益
“肌肉男”扛起孩子玩鬧?孩子出現不適,媽媽非常氣憤
《無主之地3》Xbox One版容量曝光 至少需要40GB
國藥科技股份(08156)授出1.836億份購股權
立秋過后,“秋咳”進入高發期,這4種東西別給孩子吃,傷脾肺!
GC2019前瞻:微軟公開云游戲計劃;卡普空攜生化危機新作亮相
棠記控股(08305)中期凈利同比增1.4倍至424.4萬港元
《小歡喜》:當媽的崩潰,是從豬隊友開始的
傳PS5非常強大!GPU性能幾乎比肩RTX 2080
TOPSTANDARDCORP(08510)首季凈虧同比擴大20.4%至751.9萬港元
已確認!《最終幻想8 Remastered》將推出實體版,2019年發售!
新鴻基公司(00086)中期股東應占溢利同比降2.75%至10.29億港元 中期息每股12港仙
BLG以2:0取勝RNG,狼行被ADD壓的不敢對線,網友:舒服了
布魯塞爾—四川“友城之夜”官方招待會在蓉舉行
納尼亞集團(08607)中期股東應占溢利減少24.8%至1844.5萬元
沖鋒在前 書寫“藍天之愛”——記寧夏回族自治區固原市藍天救援隊
IG比賽結束教練說了一句話,隊員笑場,小樂言太耿直把哥哥們賣了
加拿大鵝(GOOS.US)Q1營收同比增加但虧損擴大 盤前股價跌逾5%
行動代號“檢察藍”!一起守護哪吒鬧過的那片海~
伴海而生,“檢察藍”守護“海洋藍”
安徽省委書記:三項舉措力戒形式主義官僚主義
不止迪士尼!長隆等景點也禁帶食物,還要開包檢查,你贊同嗎?
住房保障:給困難群眾一個幸福的家
“科創+產業”助力安徽制造業高質量發展
人民網評:總書記的回信凝聚力量,我們都是收信人
河北張家口將構建首都“傘”型生態環境支撐格局
國家煤礦安監局聯手中國航天科技集團推進煤礦智能裝備和機器人發展
專家學者談將外部挑戰變為發展機遇
王者榮耀15號更新活動,神秘商店開啟,領馬小超與冠軍頭像框
班禪出席西藏青年美力賦能大會 促藏文化傳承發展
設計師談Boss設計標準:能否讓玩家成功領會玩法?
安徽省省長:安徽承包耕地流轉率46%
累計用戶3550萬,迎來“新勢力”的《航海王 啟航》如何做長線運營?
108萬!股民開戶數環比增加,原來和科創板打新暴賺也有關系
那些完全靠炒股為生的人,都活成什么樣子了?(建議珍藏)
華東大裂谷,安徽寧國最著名的旅游景點,通體封閉如世外桃源
每經21點丨美股期貨大幅下跌,現貨黃金重拾升勢;新西蘭稱必要時將撤離在香港僑民
川行記:色達,我已止語。五明佛學院的修行人生
今夜大行情來了?全球大跌:道指期貨跌400點、恐慌指標VIX漲超15%、黃金最多暴漲超20美元
英、美債市逾10年最強倒掛!黃金拉漲18美元逼向1520 后市如何擺脫寬幅震蕩?
美股盤前:道指期貨跌超300點 瑞幸咖啡跌超6% 虧損幅度超市場預期
考公務員的四大熱門專業,讀大學就要選好!
寶寶出現入睡困難時需要怎樣改善?
寶寶嗆奶容易發生安全問題!喂奶也是門學問,寶媽們要懂的知識
厭奶期來了,小寶寶會有這些表現,媽媽別再“喂”了
敘利亞霍姆斯發生地雷爆炸 致2名兒童死亡3人傷
美高級官員:美國只歡迎“能自立更生”的移民
佩里西奇:拜仁的召喚你根本沒法拒絕
印媒:巴軍正向印巴邊境增兵 或部署“梟龍”
中央環保督察:江西贛縣紅金稀土公司存在多種問題
騰訊高管解讀財報:不擔心游戲領域出現更多競爭者
注冊在滴滴的不合規網約車強行闖關逃逸 司機被拘
早盤:美股跌幅擴大科技股領跌 納指跌逾2%
美高級官員:美國只歡迎“能自立更生”的移民
斯諾克上海大師賽簽表出爐 每一輪都看點十足
愛國護旗的王嘉爾被“港獨”分子列為攻擊目標
伊朗總統指美國組建“護航聯盟”無助于地區穩定
北京一司機用腳操控方向盤 交警:罰400元扣3分
財報不及預期 騰訊控股ADR在德國下跌近6%
梁振英:暴徒不代表香港市民 愿內地與港同胞常往來
美國將把中國核電公司列入實體清單 中廣核回應
歐洲火車頭“失速” 德國經濟繁榮時代終結?
陷入消極螺旋多時 桑切斯的紅魔歲月將愈發艱難
印媒:巴軍正向印巴邊境增兵 或部署“梟龍”
湖北洈水回應當地近日持續震感:系地下爆破所致
普京再現“鐵漢柔情”:單膝下跪輕吻小女孩手背
迅雷股價開盤后大漲超9%:第二季度凈虧環比大幅收窄
梁振英:暴徒不代表多數 愿內地與香港同胞常往來
上市十周年愛爾眼科兩創始人擬向老股東贈“股票”
日本公布京阿尼火災細節:工作室共70人 僅1人未傷
清華教師妻子家中被快遞員殺害 嫌犯欠十余萬賭債
美移民局代局長:自由女神歡迎的是“來自歐洲”移民
瑞幸咖啡開盤大跌:跌幅超11%
阜陽到底有多少問題?安徽省委書記給了一個數字
返回頂部
电子游艺行业