 |
-- 會員 / 註冊 --
|
 |
|
|
|
深度學習：21天實戰Caffe ( 簡體 字) |
| 作者：趙永科 | 類別：1. -> 程式設計 -> 深度學習 |
| 譯者： |
| 出版社：電子工業出版社 |  3dWoo書號： 44475
詢問書籍請說出此書號！【缺書】
NT售價： 395 元 |
| 出版日：6/1/2016 |
| 頁數：392 |
| 光碟數：0 |
|
站長推薦：   |
| 印刷：黑白印刷 | 語系： ( 簡體 版 ) |
| |
加入購物車  │加到我的最愛
(請先登入會員) |
| ISBN：9787121291159 |
| 作者序 | 譯者序 | 前言 | 內容簡介 | 目錄 | 序 |
| (簡體書上所述之下載連結耗時費功, 恕不適用在台灣, 若讀者需要請自行嘗試, 恕不保證) |
| 作者序： |
| 譯者序： |
前言：推薦序一
近年來，幾乎整個智能學科的研究者們都注意到一個技術名詞——深度學習（Deep Learning）。這個略帶神秘色彩的名字和其代表的前沿性技術被著名的《MIT技術評論》評選為2013年世界10大突破性技術之首。而在此之前，包括Google、Microsoft、Facebook等公司在內的諸多信息科技巨頭都已爭相在此技術上投入了前所未有的重視力度和戰略資源，繼而高調宣布布局智能應用領域。學術界和工業界不遺余力地搶占相關研究和技術的制高點，人們并沒有感到奇怪，因為所有人都明白：這也許是人類在探索人工智能的偉大旅程和漫漫征途上的重要一刻。
關于人工神經網絡的研究可以追溯到20世紀40年代。在其漫長的歷史上經歷了數次戲劇性的波折。然而近年來，隨著大量數據的獲得、先進理論的發現，以及高性能并行計算技術的發展，以深度神經網絡為載體的特征學習技術相繼在語音、視覺、語言等諸多研究領域中取得了突破性的成果，并且正以不可阻擋之勢“入侵”傳統技術占領的各個領域。
隨著深度學習技術在學術界和工業界得到廣泛認可，越來越多的人開始參與到深度學習的相關研究和實踐中來。然而，由于存在一定的技術門檻，快速入手深度學習的研究并不是一件容易的事情。其中的一個重要原因是，深度學習中的許多問題非常依賴于實踐。然而長期以來，學術界和工業界缺少一款專門為深度學習而設計的，兼具性能、靈活性和擴展性等諸多優勢于一身的開源框架。這使得無論是快速實現算法，還是復現他人的結論，都存在著實踐上的困難。研究人員和工程師們迫切需要一套通用而高效的深度學習開源框架。
2013年，一款叫作“Caffe”的深度學習框架由加州大學伯克利分校的@賈揚清博士在Github上發布。發布伊始，Caffe框架就得到了廣泛的關注。Caffe框架以“層”為單位對深度神經網絡的結構進行了高度的抽象，通過一些精巧的設計顯著優化了執行效率，并且在保持高效實現的基礎上不失靈活性。無論在結構、性能上，還是代碼質量上，Caffe都是一款十分出色的開源框架。更重要的是，它將深度學習的每一個細節都原原本本地展現出來，供人們學習和實踐。可以說，Caffe框架的發布極大地降低了深度學習研究和開發的難度。
正是由于上述的諸多優勢，Caffe框架迅速流行起來，并且逐步形成了強大的用戶社區。經過兩年多的版本迭代，Caffe框架已經在學術界和工業界得到了廣泛的認可。在學術界，目前每天都有以Caffe框架作為底層實現的研究成果發布；而在工業界，已經有許多產品使用Caffe作為其深度學習算法實現的內核。從學術界到工業界，大家可以共享同一套底層代碼，基于同一套平臺進行研究、交流和生產，這是一件令人愉悅的事情。可以說，Caffe開源項目對于促進整個深度學習研究領域的快速發展具有不可磨滅的貢獻。
對于剛剛接觸深度學習的朋友們來說，通過結合Caffe的代碼來加深對理論的理解，也許是一種事半功倍的方法。Caffe框架天然的清晰層次和良好的代碼可讀性，為入手深度學習的朋友們提供了教科書般的實踐指導。然而，由于Caffe中有大量技術細節是在論文中無法找到的，想要快速理解Caffe框架內部的種種精要往往需要費一番周折。幸好，有一些先行者為大家分享了相關的知識。
幾天前，我有幸接到好友@卜居的邀請，為他的《深度學習：21天實戰Caffe》新書做序。這本書是國內第一本在代碼級別上全面剖析Caffe框架的指導書，同時也是一本真正的實戰手冊。本書涉及深度學習的基本理論、Caffe的設計思想、Caffe中各模塊的具體實現，以及各種實例等內容。書中對Caffe框架的分析非常細致，涵蓋的內容也頗為豐富，可以說是一本入手Caffe實踐的技術手冊，因此特別適合于Caffe的初學者閱讀。相信本書可以幫助朋友們少走許多彎路。有關Caffe的諸多奧秘，@卜居將會在書中為您一一呈現。
感謝創立和推動深度學習研究的科學家們，感謝Caffe框架的作者賈揚清博士，感謝本書的作者@卜居，以及所有為深度學習技術的發展而奮斗的朋友們。我們的征途是星辰與大海，讓我們一起努力，向著實現人工智能的偉大目標前進！
——辛淼，北京航空航天大學博士生，Caffe中國用戶社區（caffecn.cn）創始人
推薦序二
在各色繽紛的科技創新報道中，人工智能（AI）成果引發的社會性沖擊無疑前所未有。一些科技術語如“深度學習”，對信息技術類學生而言變得不再陌生。雖然國際科技界對相關領域的研究已有數十年的歷史，而跳躍式進步還只是最近若干年的事。正是這個原因，關于機器智能和“深度學習”的學習類書籍大多偏重理論，或散見于外刊上發表的研究論文、各個研究發展機構的研究報告、開源資料等，鮮有從工程實踐出發系統地介紹深度學習的書籍。
國外研究機構設置的開源社區的繁榮發展，從工程實現方面補充了理論研究的不足。然而，對開源代碼的閱讀、理解、應用對于非機器學習專業人士有較大的挑戰性。阿里云計算有限公司的趙永科工程師（博客昵稱：卜居）在研發實踐的基礎上，對深度學習從基礎理論到編程實踐進行了系統的整理，形成了《深度學習：21天實戰Caffe》一書。這是一個有技術深度、處于國際技術競爭中的領域；而本書是一個研發親歷者對技術深入理解后的總結，十分難得。
本書的寫作風格是引導性的，圍繞深度學習基礎，通過代碼導讀方式，循序漸進，揭開了深度學習的神秘面紗，讓深度學習技術，包括理論和工程實現，貼近所有 AI 愛好者。相信本書的出版能夠激發更多研究者的興趣，推動AI技術在中國的發展和應用。
——鄒謀炎 中國科學院大學教授，研究員，洪堡學者
推薦序三
讓機器具有人類的智能是科學家們從計算機誕生開始就一直在努力的方向，但是由于選擇了基于規則的算法，效果一直得不到大的提升，論文中經常以效果比亂猜好作為結論。卷積神經網絡的發明者Geoffrey Hinton在20世紀70年代就已經提出了今天的深度學習理論，但是限于當時的計算能力，一直不被人重視。21世紀以來，隨著NVIDIA GPU的廣泛應用，人工神經網絡發揮了它應有的價值，成為今天人工智能的代表性成就，Hinton也被尊稱為鼻祖。
當GPU在深度學習領域大范圍使用時，研究人員遇到了一個重大的問題——要寫大量的復雜的神經網絡代碼，這帶來了巨大的困難。在這個歷史性的關鍵時刻，賈揚清同學開發的Caffe適時地出現了，Caffe讓只要會C++編程的人員就可以編寫深度學習代碼，一下子就降低了深度學習的門檻。隨后Caffe得到了廣泛使用，并且獲得了社區的廣泛支持，也得到了NVIDIA的大力支持，獲得了充足的發展，幾乎可以說不知道Caffe就不能說會深度學習。
Caffe把深度學習的門檻降低了很多，但是實際上依舊需要了解大量的代碼細節才能對其進行修改，而深度學習又是一個計算密集的應用，如何寫出高效的代碼也非常重要。卜居做過許多有關Caffe的工作，包括優化卷積算法，非常了解Caffe框架的各個細節，他編寫的《深度學習：21天實戰Caffe》一書非常詳細、專業。
卜居用人類的戀愛過程來比喻深度學習的學習過程，從初識、熱戀到升華，很讓人稱道。在初識階段，從深度學習的概念、歷史開始，介紹深度學習和基本理論與傳統機器學習算法的不同，也包含了業界對深度學習的反思。在熱戀階段，在具體實操方面，從Caffe的安裝開始介紹，到具體運行minst數據集；從Caffe的目錄結構、不同層（功能）和數據抽象的實現細節，到如何求解一個深度學習模型，卜居都一一精確地解讀。在升華階段，卜居詳細地解說了Caffe支持的NVIDIA GPU加速工具CUDA和cuDNN，然后介紹了Caffe可視化方法，以及如何在生產環境中部署訓練好的Caffe模型。
本書雖然以21天起名，但是其真實內容是需要讀者每天24小時學習才能夠完全掌握的，相信讀者會一天24小時手不釋卷。
我鄭重地向大家推薦此書。
——風辰，并行計算領域專家，深度學習平臺架構師
前 言
緣起
2014年，我開始在阿里云進行深度學習平臺優化，使用了開源框架Caffe，其間在多種GPU服務器上部署運行，同時也根據內部業務需求修改源碼，研究基于FFT的卷積層加速方法（有幸與Facebook AI Research Yann LeCun老爺子同時做同一件事）。在學習和修改Caffe源碼過程中根據個人理解寫了數篇博客，本是無心插柳，孰料有一天博文視點編輯@永恒的俠少找到我，建議將博客內容進一步擴展為一本深度學習入門書，貼近實際，讓更多讀者走近這個如火如荼的領域。理想遠大，現實殘酷，互聯網公司的工作強度大，常常加班，還要抽時間梳理寫作思路，遲遲不能交出一份滿意的書稿。熬夜艱辛，碼字勞苦，時而思如泉涌，時而困頓躊躇，磨蹭半年有余，總算付梓。
在寫作過程中，從頭到尾重新審視了一遍近年大火的深度學習技術，提煉了經典論文的精華，深深為其近30年的坎坷歷程唏噓不已。我們目前看到的深度學習模型和基本理論可能比我們的年齡都要大，受限于當時計算能力不足，數據集也相對匱乏，深度學習一度陷入研究低谷，直到云計算、大數據時代的到來，日益增長的數據和計算能力為深度學習提供了適宜的溫度和土壤，也為其突飛猛進的成長提供了充足的養料。
我們趕上了好時代。在物質和文化如此繁榮之時，有更多的人愿意思考未來——一個充滿人工智能技術的時代。自動駕駛汽車、智能機器人、無人機……很多科幻電影中的技術正在成為現實，這一切都得益于深度學習技術和相應軟硬件系統的發展進步。通過本書內容，讀者將逐步走進深度學習，了解其過去、現在和未來。
本書讀者
本書非常適合以下讀者：
? 對人工智能、機器學習感興趣的讀者；
? 希望用深度學習完成設計的計算機或電子信息專業學生；
? 準備開設機器學習、深度學習實踐課的授課老師；
? 學習過C++，希望進一步提升編程水平的開發者；
? 剛入坑的機器學習、語音、機器視覺、智能機器人研發或算法工程師。
致謝
首先要感謝@永恒的俠少從茫茫人海中找到了我，出版深度學習入門書籍的想法我們一拍即合。然而，真正執筆才發現困難重重，業余時間常常被加班擠占，進度一拖再拖，在俠少不厭其煩一而再再而三地敦促下才將毫無條理的博客風格文章整理成書，自己也從中重新認識了深度學習，克服了拖延癥，戰勝了懶惰。
特別感謝我的愛人@曉曼在我情緒低落無心寫作時給予的悉心照顧和支持，一次次談心讓我轉換新的思路，跳出局部極小值點，堅定邁向下一個目標。
感謝遠在家鄉的父母，他們年過花甲，不懂我寫的“深度學習”是什么，但他們知道我忙，知道我在為了理想付出，每次打電話都記掛著我，一次次叮囑少熬夜。掩卷深思，自己欠父母太多，只愿能抽出更多的時間陪陪他們。
在阿里云工作已有近兩年時間，非常Nice的同事們也對我的成長起到至關重要的作用，感謝老大@長仁提供良好的學習平臺和環境，讓我有機會接觸最新架構CPU、GPU、Phi、FPGA，通過一次次折騰機器，不斷打怪升級攢經驗。愿2016年我們的阿里云高性能計算服務（https://www.aliyun.com/product/hpc）隨深度學習技術一起牛X一起飛！
感謝CaffeCN社區（http://www.caffecn.cn/）的@辛淼博士創建國內最前沿的深度學習交流平臺，在這里聚集了一批始終代表先進生產力的CS碩博研究生、企業一線工程師，通過學術和技術講座，讓不同的思維火花碰撞，觸發無限可能，歡迎更多的有志之士加入！
感恩互聯網時代，感恩深度學習領域的先驅者Geoffrey Hinton、Yann LeCun、YoushuaBengio，感恩青年才俊Alex Krizhesky、YangqingJia將生冷的深度學習理論轉化為開源代碼吸引了大量的熱血青年前赴后繼投身該領域，共建社區。
趙永科（筆名：卜居）
2016年4月于杭州藍灣Coffee |
內容簡介：本書是一本深度學習入門讀物。以目前已經大量用于線上系統的深度學習框架Caffe為例，由淺入深，從 Caffe 的配置、部署、使用開始學習，通過閱讀 Caffe 源碼理解其精髓，加強對深度學習理論的理解，最終達到熟練運用 Caffe 解決實際問題的目的。和國外機器學習、深度學習大部頭著作相比，本書偏重動手實踐，將難以捉摸的枯燥理論用淺顯易懂的形式表達，透過代碼揭開其神秘面紗，更多地貼近實際應用。 |
目錄：上篇 初見
第1天 什么是深度學習 2
1.1 星星之火，可以燎原 3
1.2 師夷長技 4
1.2.1 谷歌與微軟 4
1.2.2 Facebook、亞馬遜與NVIDIA 5
1.3 中國崛起 6
1.3.1 BAT在路上 6
1.3.2 星光閃耀 7
1.3.3 企業熱是風向標 8
1.4 練習題 9
第2天 深度學習的過往 10
2.1 傳統機器學習的局限性 10
2.2 從表示學習到深度學習 11
2.3 監督學習 12
2.4 反向傳播算法 13
2.5 卷積神經網絡 15
2.6 深度學習反思 17
2.7 練習題 18
2.8 參考資料 18
第3天 深度學習工具匯總 19
3.1 Caffe 19
3.2 Torch ＆ OverFeat 20
3.3 MxNet 22
3.4 TensorFlow 22
3.5 Theano 24
3.6 CNTK 24
3.7 練習題 25
3.8 參考資料 26
第4天 準備Caffe環境 27
4.1 Mac OS環境準備 27
4.2 Ubuntu環境準備 28
4.3 RHEL/Fedora/CentOS環境準備 29
4.4 Windows環境準備 29
4.5 常見問題 32
4.6 練習題 32
4.7 參考資料 33
第5天 Caffe依賴包解析 34
5.1 ProtoBuffer 34
5.2 Boost 38
5.3 GFLAGS 38
5.4 GLOG 39
5.5 BLAS 40
5.6 HDF5 41
5.7 OpenCV 42
5.8 LMDB和LEVELDB 42
5.9 Snappy 43
5.10 小結 43
5.11 練習題 49
5.12 參考資料 49
第6天 運行手寫體數字識別例程 50
6.1 MNIST數據集 50
6.1.1 下載MNIST數據集 50
6.1.2 MNIST數據格式描述 51
6.1.3 轉換格式 53
6.2 LeNet-5模型 60
6.2.1 LeNet-5模型描述 60
6.2.2 訓練超參數 65
6.2.3 訓練日志 66
6.2.4 用訓練好的模型對數據進行預測 76
6.2.5 Windows下訓練模型 76
6.3 回顧 78
6.4 練習題 79
6.5 參考資料 79
篇尾語 80
中篇 熱戀
第7天 Caffe代碼梳理 82
7.1 Caffe目錄結構 82
7.2 如何有效閱讀Caffe源碼 84
7.3 Caffe支持哪些深度學習特性 86
7.3.1 卷積層 86
7.3.2 全連接層 89
7.3.3 激活函數 91
7.4 小結 99
7.5 練習題 99
7.6 參考資料 100
第8天 Caffe數據結構 101
8.1 Blob 101
8.1.1 Blob基本用法 102
8.1.2 數據結構描述 108
8.1.3 Blob是怎樣煉成的 109
8.2 Layer 125
8.2.1 數據結構描述 126
8.2.2 Layer是怎樣建成的 127
8.3 Net 136
8.3.1 Net基本用法 136
8.3.2 數據結構描述 139
8.3.3 Net是怎樣繪成的 139
8.4 機制和策略 146
8.5 練習題 147
8.6 參考資料 148
第9天 Caffe I/O模塊 149
9.1 數據讀取層 149
9.1.1 數據結構描述 149
9.1.2 數據讀取層實現 150
9.2 數據變換器 155
9.2.1 數據結構描述 155
9.2.2 數據變換器的實現 156
9.3 練習題 171
第10天 Caffe模型 172
10.1 prototxt表示 173
10.2 內存中的表示 176
10.3 磁盤上的表示 176
10.4 Caffe Model Zoo 178
10.5 練習題 180
10.6 參考資料 180
第11天 Caffe前向傳播計算 181
11.1 前向傳播的特點 181
11.2 前向傳播的實現 182
11.2.1 DAG構造過程 182
11.2.2 Net Forward實現 190
11.3 練習題 192
第12天 Caffe反向傳播計算 193
12.1 反向傳播的特點 193
12.2 損失函數 193
12.2.1 算法描述 194
12.2.2 參數描述 195
12.2.3 源碼分析 195
12.3 反向傳播的實現 203
12.4 練習題 205
第13天 Caffe最優化求解過程 207
13.1 求解器是什么 207
13.2 求解器是如何實現的 208
13.2.1 算法描述 208
13.2.2 數據結構描述 210
13.2.3 CNN訓練過程 218
13.2.4 CNN預測過程 225
13.2.5 Solver的快照和恢復功能 227
13.3 練習題 230
第14天 Caffe實用工具 231
14.1 訓練和預測 231
14.2 特征提取 241
14.3 轉換圖像格式 247
14.4 計算圖像均值 254
14.5 自己編寫工具 257
14.6 練習題 257
篇尾語 258
下篇 升華
第15天 Caffe計算加速 260
15.1 Caffe計時功能 260
15.2 Caffe GPU加速模式 262
15.2.1 GPU是什么 262
15.2.2 CUDA是什么 263
15.2.3 GPU、CUDA和深度學習 263
15.2.4 Caffe GPU環境準備 264
15.2.5 切換到Caffe GPU加速模式 268
15.3 Caffe cuDNN加速模式 269
15.3.1 獲取cuDNN 270
15.3.2 切換到Caffe cuDNN加速模式 270
15.3.3 Caffe不同硬件配置性能 272
15.4 練習題 273
15.5 參考資料 273
第16天 Caffe可視化方法 275
16.1 數據可視化 275
16.1.1 MNIST數據可視化 275
16.1.2 CIFAR10數據可視化 277
16.1.3 ImageNet數據可視化 278
16.2 模型可視化 279
16.2.1 網絡結構可視化 279
16.2.2 網絡權值可視化 281
16.3 特征圖可視化 288
16.4 學習曲線 295
16.5 小結 298
16.6 練習題 298
16.7 參考資料 299
第17天 Caffe遷移和部署 300
17.1 從開發測試到生產部署 300
17.2 使用Docker 302
17.2.1 Docker基本概念 302
17.2.2 Docker安裝 303
17.2.3 Docker入門 305
17.2.4 Docker使用進階 312
17.3 練習題 317
17.4 參考資料 317
第18天 關于ILSVRC不得不說的一些事兒 318
18.1 ImageNet數據集 318
18.2 ILSVRC比賽項目 319
18.2.1 圖像分類（CLS） 320
18.2.2 目標定位（LOC） 320
18.2.3 目標檢測（DET） 321
18.2.4 視頻目標檢測（VID） 322
18.2.5 場景分類 322
18.3 Caffe ILSVRC實踐 323
18.4 練習題 326
18.5 參考資料 326
第19天 放之四海而皆準 327
19.1 圖像分類 327
19.1.1 問題描述 327
19.1.2 應用案例——商品分類 330
19.2 圖像中的字符識別 332
19.2.1 問題描述 332
19.2.2 應用案例——身份證實名認證 333
19.3 目標檢測 337
19.3.1 問題描述 337
19.3.2 最佳實踐——運行R-CNN例程 337
19.4 人臉識別 340
19.4.1 問題描述 340
19.4.2 最佳實踐——使用Face++ SDK實現人臉檢測 342
19.5 自然語言處理 343
19.5.1 問題描述 343
19.5.2 最佳實踐——NLP-Caffe 344
19.6 藝術風格 350
19.6.1 問題描述 350
19.6.2 最佳實踐——style-transfer 352
19.7 小結 354
19.8 練習題 354
19.9 參考資料 355
第20天 繼往開來的領路人 356
20.1 Caffe Traps and Pitfalls 356
20.1.1 不支持任意數據類型 356
20.1.2 不夠靈活的高級接口 357
20.1.3 繁雜的依賴包 357
20.1.4 堪憂的卷積層實現 357
20.1.5 架構之殤 358
20.1.6 應用場景局限性 358
20.2 最佳實踐——Caffe2 359
20.3 練習題 361
20.4 參考資料 362
第21天 新生 363
21.1 三人行，必有我師 363
21.2 路漫漫其修遠兮，吾將上下而求索 364
篇尾語 366
結束語 367
附錄A 其他深度學習工具 368 |
| 序： |
|
