您的位置:首頁>>業界動態

2019深度學習框架排行榜(從TOP 10到TOP 3)

發布時間:2019-08-20 18:56:11  來源:互聯網    背景:

  1.寫在前面

  5G可以說是2019年上半年十分閃耀的那顆“星”了,美方還不惜代價地試圖封鎖中國的5G技術出海。5G之所以重要,是因為其將和AI技術,大數據技術一道顛覆我們現有的生活模式,讓智能化成為現實。

  在智能化的世界,5G技術提供高速率(>1 Gbps),低延時(1ms)的基礎網絡服務,組建物聯網(IoT,Internet of Things),大數據技術提供對萬物互聯產生的海量數據的整合能力,而AI技術則提供整個智能生態的計算與決策能力,深度學習技術是非常高效的實現方式,在過去10年,已被學術界和工業界反復證實,能夠依靠各種模型算法達成比人類判斷更精準,更快速的“靈丹妙藥”。

101_190820122937_1_lit (1).png

  Figure 1 智能時代

  技術需要高效的實現模式來進行應用,深度學習框架就是那個實現“靈藥“的“煉丹爐”,能夠通過深度學習算法模塊化的封裝,快速搭建模型,輸入數據,進行各種模型的訓練,調優,測試和部署,為整個智能生態提供預測,決策等核心推斷能力。

  2.深度學習框架排行榜

  得益于深度學習框架發展初期各家為更好的推動技術發展而造就的開源生態模式,如今,各式各樣的框架百花齊放,百家爭鳴,快速推動了深度技術在工業界的落地應用。當然,好“藥”也得有好“爐”煉,下面我們就介紹下目前主流的深度學習框架的發展狀況,各自的特點以及適合的場景等,找到合適的“爐“。

  從業界影響、資源投入、開發生態、文檔體系、模型全面性、工業實踐和開源熱度(github)等七個方面評估各框架的發展狀況,結果如下圖(供參考)。

101_190820123007_1_lit.png

  Figure 2 十大深度學習框架發展程度(caffe,caffe2分開統計)

  再來看一下GitHub對應的一些數據情況,Pytorch,TensorFlow,PaddlePaddle過去兩年保持了較快的發展速度,尤其Pytorch的星數有3倍增長,博得了眾多人的眼球。而Caffe&Caffe2,Theano,CNTK等,雖然已經停止迭代,但在AI啟航的時間點仍然有一定的增長。

101_190820123034_1_lit.png

  Figure 3 十大深度學習框架github概覽(caffe,caffe2分開統計)

101_190820123056_1_lit.png

  Figure 4 十大深度學習框架增長率(caffe,caffe2分開統計)

  上圖中,前三個(Pytorch,TensorFlow,PaddlePaddle)是個人認為目前發展快,并且比較完善的框架,末端的四個是已經官宣不再更新的,而其他的是發展到平穩期或資源有限的一些框架。

  3.十大深度學習框架詳解

101_190820123128_1_lit.png

  Google的TensorFlow,可以說是當今十分流行的深度學習框架。Airbnb, DeepMind,Intel,Nvidia,Twitter以及許多其他著名公司都在使用它。

  Google自開源TensorFlow起,投入大量的人力,物力,財力逐步構建了一個AI生態,從基礎研究、AI教育、再到應用實現,而這個生態的核心就是TensorFlow。如前所說,深度學習是AIoT時代的基石,毫無疑問,Google依然走在時代轉折點的前列。

  TensorFlow提供全面的服務,無論是Python,C++,JAVA,Go,甚至是Javascript,Julia,C#,幾乎所有開發者都可以從熟悉的語言入手開始深度學習的旅程。TensorFlow構建了活躍的社區,完善的文檔體系,大大降低了我們的學習成本,不過社區和文檔主要以英文為主,中文支持有待加強。另外,TensorFlow有很直觀的計算圖可視化呈現。模型能夠快速的部署在各種硬件機器上,從高性能的計算機到移動設備,再到更小的更輕量的智能終端。

  TensorFlow的缺點已經被詬病多年,相比Pytorch,Caffe等框架,TensorFlow的計算速度可以說是“牛拉車“。而且通過它構建一個深度學習框架需要更復雜的代碼,還要忍受重復的多次構建靜態圖。

  綜合來說,對于英文閱讀和英文交流毫無障礙的同學,TensorFlow依然是深度學習框架的優選方案,畢竟可以和人流暢交流是學習和工作的重點。

101_190820123217_1_lit.png

  Pytorch是基于用Lua編寫的Torch庫的Python實現的深度學習庫,它由Facebook創建,目前被廣泛應用于學術界和工業界,隨著Caffe2項目并入Pytorch,也穩固了Pytorch緊追并迫近TensorFlow在深度學習應用框架領域的地位。

  Pytorch官網的標題語簡明的描述了目前Pytorch的特點以及將要發力的方向。Pytorch在學術界優勢很大,關于用到深度學習模型的文章,除了Google家的,其他大部分都是通過Pytorch進行實驗的,究其原因一是Pytorch庫足夠簡單,跟NumPy,SciPy等可以無縫連接,而且基于tensor的GPU加速非常給力,二是訓練網絡迭代的核心-梯度的計算,Autograd架構(借鑒于Chainer),在Pytorch,我們可以動態的設計網絡,而無需笨拙的定義靜態網絡圖,才能去進行計算,想要對網絡有任務修改,都要從頭開始構建靜態圖?;诤唵?,靈活的設計,Pytorch快速成為了學術界的主流深度學習框架。

  Pytorch的劣勢在于模型部署,由于對其部署難度早有耳聞,我沒嘗試過部署Pytorch的模型,一般是在Pytorch快速的試驗新的模型,確認好的效果再去找“現成的”的TensorFlow模型做簡單的優化。

  不過現在,如果稍微深入的了解TensorFlow和Pytorch,就會發現他們越來越像,TF加入了動態圖架構,Pytorch致力于其在工業界更加易用。打開各自的官網,你也會發現文檔風格也越發的相似。

101_190820123244_1_lit.png

  PaddlePaddle是由百度自主開發的開源深度學習框架,近期發現有了中文名字,飛槳。官網截圖也很有意思,很多小人在劃槳。飛槳剛發布的時候,并不被看好,感覺更像是Google有,百度也要有的腔調,但是近來在做一個關于語義識別的項目,其他框架支持中文的模型實在是少的可憐,時間緊張也沒有時間大規模訓練,于是就來試試飛槳,其中基于BERT的ERNIE模型取得了較好的效果,部署也不折騰。個人認為可以將模型庫中的經典模型套在自己的問題上,作為baseline模型快速試驗,而后慢慢調優追求更好的效果。

  從模型庫找到適合自己的模型,按照實踐教程一步步進行就行了,過程還是比較簡單的,遇到的問題在github的issues中都有找到,雖然不像TF那么活躍,但是支持也是很及時的。我是從官網找模型,發現官網又更新了,盜張圖過來感受下支持的模型。

101_190820123311_1_lit.png

  Figure 5 PaddlePaddle模型庫

  功能上,飛槳同時支持動態圖和靜態圖,能方便的調試模型,方便的部署,非常適合業務應用的落地實現。飛槳也已經支持數百個節點的高效并行訓練??梢哉f在過去2年的時間里,深度學習領域在大規模的落地應用,各家框架也都在快速的發展,但是百度的PaddlePaddle看來是這個階段發展更快的框架,甚至是發展更快的AI開發生態。

  以上三個框架可以說是目前發展比較快的,并且在穩定更新,維護的。功能上來說,各框架已經“越長越像”了,三個框架還是會有各自的特點,如何選擇還是要根據自己的目標來看。

  下面來簡單介紹下其他的一些主要框架。

101_190820123350_1_lit.png
101_190820123408_1_lit.png
101_190820123426_1_lit.png

  4.如何選擇?

  那么如何在眾多的框架中選擇呢,我的建議有3個框架:TensorFlow,Pytorch,飛槳。其他的不是投入資源有限,就是已經不再維護了。實際上,我們或多或少應該都了解下這3個框架,針對不同的目的可以快速選型。

  如果是剛剛接觸深度學習,以學習為目的的,我建議從TensorFlow和飛槳開始,至少目前來看,Google和百度是傾全力打造這兩個平臺的,他們已經不只是一個深度學習框架了,更是一個AI開發的生態,從基礎的視頻課程,完善的文檔體系到項目的開放落地提供的是統一的服務。多說一句,百度飛槳的基礎文檔相當詳細,不只有代碼實現,數據流過程的教程,同時也包含了詳細的算法原理,這點對于還不是那么了解相應模型的同學來說是極大的方便。對于學有余力的同學,還是建議對這3個框架都了解下。

  如果是出于學術目的的,建議從Pytorch開始,畢竟學術研究要緊盯著前沿,看文章,復現文章中模型的效果,選大家都用的可以節省不必要的時間成本,把重點放在優化模型提升模型效果上。

  如果是想要開箱即用,想即刻將深度學習技術應用到自己的場景中嘗試,我會建議選擇飛槳,飛槳中有大量的實戰案例,基本套到相應的場景就能迭代起來了。而且在NLP領域,需要對各種語言進行預處理,毫無疑問對中文支持更好的是飛槳,比如ERNIE,其挖掘海量的中文數據,對先驗語義知識進行建模,增強了語義表達能力,可以作為NLP,NLU應用的基礎服務不同的場景。

  隨手貼幾個招聘網站上的JD,也可以幫大家明確一下方向,供參考。

101_190820123453_1_lit.png
101_190820123512_1_lit.png
101_190820123527_1_lit.png

  5.未來

  我們處在更好的時代。

  感謝互聯網文化,感謝開源文化,讓技術可以以指數級的速度發展,我們更要感謝在時代轉折點的那些引路人,沒有Google,百度等企業不遺余力地嘗試將新技術應用于各產業,就沒有技術的飛速發展,就沒有美好的生活模式的變遷。

  AI技術的平民化是智能時代發展的催化劑,我們應用深度學習技術,從原理到框架,再到應用平臺化工具將其落地到所有的場景,這是未來的發展趨勢。得益于5G技術的發展,相信在不久的將來,我們將實現萬物互聯。深度學習是AIoT時代的關鍵,各平臺已有的實踐落地項目給我們提供了產業落地的實現路徑??芍^星星之火,已成燎原之勢,另外,發展我國自己的AI開發生態也同樣重要,考慮到近期的“華為事件”,有備無患。

  結尾想說,框架、平臺都只是為我們提供了工具,明確我們的目標并找到合適的場景,推進應用在業務上的落地,實現商業價值才是核心競爭力。

特別提醒:本網內容轉載自其他媒體,目的在于傳遞更多信息,并不代表本網贊同其觀點。其原創性以及文中陳述文字和內容未經本站證實,對本文以及其中全部或者部分內容、文字的真實性、完整性、及時性本站不作任何保證或承諾,并請自行核實相關內容。本站不承擔此類作品侵權行為的直接責任及連帶責任。如若本網有任何內容侵犯您的權益,請及時聯系我們,本站將會在24小時內處理完畢。


返回網站首頁 本文來源:互聯網

本文評論
友情提示:評論功能暫時關閉,請掃描上方二維碼進群交流!
自動駕駛:百度五年狂奔,谷歌十年倔強
歷史最有趣之處,在于其往往顛覆人們的認知。
  把時間往回撥15年,在20世紀之初的2004年,...
日期:08-21
5G全速進化 iQOO Pro新品手機明日北京發布
明天,也就是8月22日,生而強悍再進化的iQOO Pro將在751D·PARK北京時尚設計廣場751新罐正式...
日期:08-21
今年7月,廈門5家小龍坎火鍋店正式接入付唄
如果是人生中有什么坎過不去,那一定就是小龍坎。就是ta,把地道的成都風味帶向全國各地。
日期:08-21
聯想攜手極客公園啟動「酷公司30」計劃  合力助推中小企業成長進化
2019年8月21日,聯想集團全球總部未來中心——今日,聯想中小企業事業部攜手尖端科技媒體...
日期:08-21
Adobe發布Creative Cloud中國攝影計劃,助力創意實現
中國,杭州—2019年8月21日— Adobe(Nasdaq: ADBE)今日宣布將于近期在中國大陸地區推出面...
日期:08-21
飛槳端側推理引擎重磅升級為Paddle Lite,更高擴展性更極致性能!
百度深度學習平臺飛槳(PaddlePaddle)再放大招!端側推理引擎全新升級,重磅發布Paddle Lite,旨在推...
日期:08-21
消息:小米或不能再使用MIX商標
8月21日消息 近日,有網友放出了中國裁決文書網的小米科技有限責任公司和國家知識產權局二審的行政...
日期:08-21
2019北京網絡安全大會召開首日 國家會議中心被“擠爆”
8月21日上午,為期三天的2019北京網絡安全大會正式拉開帷幕。當天早上,會議舉辦地點國家會議中心人...
日期:08-21
強強聯合!百度智能云與Rancher達成合作,容器生態再進一步
2019年8月21日,技術領先的云計算服務平臺百度智能云與全球領先的容器管理軟件提供商Rancher Labs正...
日期:08-21
千庫4周年品牌視頻《招牌“藍友”在線守護》深度解讀
2019年8月19日,千庫網正式對外發布了4周年品牌視頻《招牌“藍友”在線守護》,通過三段...
日期:08-21
Mance Harmon:超越區塊鏈,構建快速、公平和安全的去中心化應用程序
2019年8月21日,在北京舉辦的PoW’er大會上,企業級分布式賬本平臺Hedera Hashgraph 聯合創始人...
日期:08-21
Byte CTF字節跳動網絡安全攻防大賽強勢來襲
當今,隨著網絡信息規模的不斷發展與壯大,網絡系統面臨著更多的安全威脅。網絡安全是一個關系到國...
日期:08-21
索尼影視官方確認,漫威將不再參與《蜘蛛俠》電影制作
據IGN早些時候報道,由于索尼影業和迪士尼之間無法達成新的協議,所以未來漫威電影宇宙未來不會制作...
日期:08-21
OPPO Reno 2配置曝光:驍龍730G+4000mAh電池
今日,外媒91Mobiles曝光了將于8月28日在印度發布的新機OPPO Reno 2更完整的配置參數。OPPO Reno 2...
日期:08-21
京東云總裁申元慶談物聯網布局:為5G時代領跑超級電商賦能
經濟日報-中國經濟網訊(記者 王茂林)從2009年,以國家傳感網創新示范區成立為標志,無錫正式與物聯網結...
日期:08-21
百度智能小程序的“哪吒”效應
又是集中的財報季節,BAT三巨頭先后秀出肌肉。
  8月20日,百度發布Q2財報,本季度實現營收2...
日期:08-21
配置相當華麗!小米MIX4系列配置曝光,售價真香
此前有消息稱,小米將會在下半年推出一款全新的手機,也就是新一代的MIX系列旗艦產品MIX4。近日,疑...
日期:08-21
西瓜視頻創作人:大白話本人,露臉居然沒掉粉?
長期隱藏在電影畫面和配音之后的影視解說博主,在兩三天之內,紛紛從幕后走到前臺露臉,用真實長相...
日期:08-21
世界機器人大會正式開幕,普渡送餐機器人引全場觀眾熱情圍觀
在一段不足十米的通道上,數個路障簡單勾畫出了一條“S型”的道路,一臺機器人行駛到路障...
日期:08-21
鄉村民宿助力旅游脫貧,小豬參與海南省鄉村民宿示范建設項目
8月20日,海南省首個鄉村民宿示范建設項目在??谑忻捞m區美帖村正式啟動,該項目由海南省旅游民宿提...
日期:08-21
  專欄介紹
王涵 的專欄
王涵發表的文章
積分:
自我介紹 :
 
高清性色生活片