看完NVIDIA執行長黃仁勳的主題演說,我們正在進入AI新紀元,數以億萬計的運算裝置加入人工智慧,AI深度學習正在改變我們的生活模式,幫助我們解決許多以往無法解決的問題,只買民生股,雖然穩定,但無法參與世界正在改變的浪潮,投資ETF,讓我做多全部產業,巴不得世界趕快進步。

本文是觀看直播影片的筆記,幫助自己了解深度學習方面的科普知識,雖然一切都還在發展中,但輪廓儼然逐漸成形。

AI影片概述

AI其實已經可以作曲跟作畫發展到的程度了,以下是NVIDIA的宣傳影片,配樂就是AI所編寫的。

AI在現今幫助科學家觀察、分析數據,例如研究重力;

在醫療界幫助醫生分析數據,幫助病患在家就能從一滴血分析感染疾病,幫助醫療人員研發更有效的新療法;

在生態學界幫助海洋工作者保育珊瑚礁生態,例如Queensland University大學的COTSBot技術。

在零售業幫助消費者挑選商品,幫助身障者有更便利的生活,例如拿取物品、拉窗簾等;自駕車紓減長途司機的負擔、更安全;透過學習大師技巧而作畫;透過分析運動員數據,幫助選手訓練、研究戰術。

 

 概念簡述

NVIDIA CUDA GPU:巨量資料軟體開發、運算平台,解決單靠晶圓體無法解決的問題。

CUDA是NVIDIA 的平行運算架構,可運用繪圖處理單元 (GPU) 的強大處理能力,大幅增加運算效能。

透過大量運算找到最佳函數(答案),而運算的過程稱為「學習」。深度學習(Deep Learning)是從巨量的數據中發現共通點加以運用,看出規則,做出預測並判斷,要做深度學習必須有非常強的運算能力,才能從資料當中找出意義。

深度學習的效果

  • 透過資料運算,軟體可以達成一定程度的智慧,幫助解決問題。
  • 深度學習的限制
  • 要有強大的運算能力,才能從資料中找出規律。

深度學習的步驟

  • 建構網路
  • 設定目標
  • 開始學習

科技瓶頸

CPU的摩爾定律已到末期,唯有藉可編程特性、架構不斷演進的GPU 速才能實現人工智慧所需的運算力。

(註:摩爾定律是積體電路上可容納的電晶體數目,約每隔兩年便會增加一倍)

摩爾定律的瓶頸是微處理力開發者無法再透過增加電晶體來增加運算能力,CPU已無法再擴張成長,程式設計人員無法創造出可以更有效率發現更多指令級並行性的CPU架構。

現在電晶體持續每年增長50%,但CPU效能僅能成長10%。

當我們需要運算能力時卻發現單純靠增加電晶體數量來增加運算能力已經不符合我們需求,提升運算能力的過程中,微處理器中出現越來越大的差距,但這卻是新的運算紀元,也是NVIDIA GPU運算的崛起,也就是透過GPU來運算,NVIDIA CUDA GPU是產業領域專用加速器,補足CPU的不足之處。

CPU與GPU的優劣

CPU適合單串運算、任何人都可以寫CPU讀得懂的軟體,讓電腦變得普世的技術,在某些領域做得不好,但平行運算、大量資料處理時會有點不敷使用。

GPU適合複雜的平行運算,因此當兩者結合,可以把電腦變成單串、平行運算的適合的核心,我想到的日常應用有顯示卡挖礦XD。

兩者結合所設計出的CUDA是革命性的運算架構,結合高效能的專門用途ASIC,具有可編程模式,能讓研發人員解決複雜演算法的大量運算。

簡單來講,這就是新設計出用來處理大量資料的處理器,CPU做得不好的地方,用GPU來處理,讓兩者兼容互補。

雞生蛋,蛋生雞

為了解決過去無法解決的問題,現在需要運算能力很強的核心來開發適合的軟體,反過來想,要開發軟體,也必須知道硬體平台的能力範圍,硬體要跟得上開發的軟體。

簡單講,硬體要跑得動軟體。

今年兩項諾貝爾得主在研究歷程中都得意於NVIDIA GPU運算的力量。

  • 諾貝爾化學獎:低溫電子顯微鏡讓科學家以高傳真度的原子尺度研究分子。
  • 諾貝爾物理獎:科學家證明了愛因斯坦理論重力波。

這些研究的過程都運用到電腦繪圖,也就是用電腦來模擬真實世界,模擬時當然希望越真實越好,所以整個過程非常複雜,運算需求也很高。

HELODeck虛擬實境實驗室設計平台

設計師可以透過虛擬實境同時進行研究、設計,影片中展示三人如何利用虛擬實境運算平台變更跑車的顏色、拆解構造、探索車體內部等等,從影片上來看模擬得非常真實,色澤、材質跟真實相當接近

HELODeck的功能

與世界各地的同事合作,彷彿就像在同一個房間內共同創作,在平台內也能知道所有細節的模型、材料、符合物理原則。

HELODECK虛擬實境合作模式

HELODECK

解決無解的難題Solving The Unsolvable

NVIDIA的最高宗旨是創造工具以實現重大突破,讓社會更進步。

深度學習讓我們可以創造一種軟體,解開過去無解的難題,讓軟體透過這些資料來創造技能,解決問題。

展望未來,NNIDA成為全球AI平台,機器學習、人工智慧就是GPU殺手級應用程式,此外研究蓬勃發展,今年已發表超過3000份深度學習研究論文,NNIDA的CUDA平台可以作為未來電腦運算的核心。

NVIDIA輝達

NVIDIA(全稱NVIDIA Corporation,NASDAQ:NVDA,台灣與香港官方中文名為輝達,中國大陸翻譯成英偉達),創立於1993年1月,是一家以設計圖形處理器為主的半導體公司。

NVIDIA亦設計遊戲機核心,例如Xbox和PlayStation。
NVIDIA最出名的產品線是為個人與遊戲玩家所設計的GeForce系列,為專業CGI工作站而設計的Quadro系列,以及為伺服器和高效運算而設計的Tesla系列,雖然起家於PC電腦的顯示卡業務,輝達也曾涉及行動晶片Tegra的設計,但智慧型機市場對此響應不大,不過近年卻利用這些研發經驗,目前朝向人工智慧和機器視覺的市場發展。

NVIDIA股價

NVIDIA執行長黃仁勳

黃仁勳(Jensen Huang,1963年2月17日-) ,是一位出身臺南市的美籍企業家,也是繪圖晶片企業NVIDIA的共同創立人。
CUDA

CUDA(Compute Unified Device Architecture,統一計算架構)是由NVIDIA所推出的一種整合技術,是該公司對於GPGPU的正式名稱。

透過這個技術,使用者可利用NVIDIA的GeForce 8以後的GPU和較新的Quadro GPU進行計算。亦是首次可以利用GPU作為C-編譯器的開發環境。

NVIDIA行銷的時候,往往將編譯器與架構混合推廣,造成混亂。

實際上,CUDA可以相容OpenCL或者自家的C-編譯器。無論是CUDA C-語言或是OpenCL,指令最終都會被驅動程式轉換成PTX代碼,交由顯示核心計算。

Nvidia Cuda Logo