What’s NEW

黃仁勳展示了台灣戰隊在AI世界中的實力，並一起掀起新的產業革命。 計算加速+生成式AI改變了一切。 1.AI工廠生產出新的有價資產:生成式AI token。改變台灣計算機產業的定位，成為為各行各業創造智慧的AI工廠，而非傳統的電腦製造業。 2.BlackWell平台提供資料中心EFLOPS級的算力。下一代的Rubin平台更會呈現指數型成長。 3.Nims即將改變應用程式的寫法和定義。只要定義規則和角色，Nims自己合作完成應用任務。 4.Omniverse:AI將會懂得物理世界的規律，將會和我們一起工作。機器人之間能夠互動，並且能夠製造出其他機器人的產品。Omniverse提供了實體機器人演化的平台和模擬場域。 0.台灣是家和歸宿，Nvidia和台灣的夥伴們正重啟新的計算機產業革命 1.現在正在發生的事情，以及它的意義 從1964年IBM推出大型計算機，到目前60年來，計算機產業只發生過2-3次重大變革。 1995年微軟推出Windows作業系統，標誌個人電腦時代，2007年蘋果推出iphone，改變人與電腦互動的方式。 2007年互聯網和雲計算日益成熟， 促進全球互聯和資料雲端儲存。 2024年的今天，加速計算和人工智能，正在掀起再一次更重大的產業巨變，將重塑整個計算機產業。 摩爾定律＋CPU，驅動了過去計算機產業的高速發展，但軟體的發展所需的更快速的算力，僅靠CPU已經跟不上了。 安迪比爾定律中的比爾越來越耗算力。 計算通膨造成市場上對加速計算的強力需求。 Nvidia提供的GPU解決方案可以滿足這個需求。傳統的CPU加上GPU，可提昇100倍的速度，費用只要1.5倍，相當於節費98%! 能做到GPU加速，只有硬體是不夠的，Nvidia 2007年開始發展的cuda軟體函數庫，釋放了GPU並行運算的潛能。 並行計算是GPU能加速的基礎。就像是1個人做事，和100個人分工流水線生產的差距。 如今cuda+GPU的生態正朝正向發展，未來的計算只會指數型向上發展，cuda也是Nvidia的護城河之一。 運算一直加速，計算的成本一直持續下降，有一天，奇妙的事情就會發生。 2.第二件事，什麼是生成式AI，它對各個領域的深刻影響 2012年對黃仁勳來說，是非常重要的一年，通過AlexNet(早期深度學習模型)，他看到了人工智慧發展的潛力。 Nvidia在這條無人知曉無人行走的路上默默耕耘，直到2016年，第一台DGX送到了OpenAI。 到了2017年，Transformer模型在NLP領域取得了重大突破，推動了AI技術的快速發展和應用。 2023年，史稱AI元年。OpenAI一推出chatGpt，馬上就有100萬個使用者，不到兩個月，活躍用戶超過1億。是歷史上成長最快的應用程式。 生成式AI透過感知和檢測，能預測生成token。 token能轉成文字、語音、圖片、影片等等任何形式的東西。 凡是我們可以學習的，AI都可以生成。 因為加速計算加上生成式AI，台灣將站在新產業革命的轉折高點 AI工廠 AI工廠: AI工廠生產有價值的token，可以應用在計算機業、醫療保健業、交通業、製造業等。可以創造 出價值高達100萬億美元的新商品，推動各個領域的發展， 從而引領一場新的產業革命。 台灣計算機產業將脫離傳統的電腦製造業。 Nims Nims:… Read More »2024-06-02 黃仁勳 computex2024 主題演講摘要

微軟、Google、Meta 和大型基金會模型實驗室已壟斷了稀缺的研究人才。基礎模型（Foundation Models）如大型語言模型（LLM）是稀缺資源，因其能夠進行少數樣本學習、上下文學習，甚至在未經訓練的情境中也能展現能力。由於研發這類模型的專業人才稀缺，目前全球大約只有5000名LLM研究人員，相較之下有約5000萬名軟件工程師。 GPU供應與運算資源短缺。OpenAI/微軟當然是第一個出手囤積GPU的大型公司，但美國已有多家的新創公司，透過他們的優勢，拉開了新一波的 GPU 軍備競賽的序幕。這說明了將造成更多GPU壟斷在少數人手上，運算資源對於整個市場將很長一段時間都是短缺的資源。 API軟體供應鏈的成形。微軟、谷歌和Meta等大型巨頭公司，深知人才和技術的供需壟斷的優勢，通過提供AI研究作為服務的API來滿足市場需求。API 線另一端的人工智慧工程師將有更多能力使用模型，而不是訓練模型。 大語言模型的飛速發展。在新的AI工程範疇中，相比傳統的機器學習工程流程，AI工程師可以利用大型語言模型（LLM）的即問即答功能來快速驗證和發展AI產品。這種方法不需事先進行大規模的數據收集和模型訓練，顯著降低了成本和時間，使產品開發流程更符合敏捷開發的精神。 資料來源：https://www.latent.space/p/ai-engineer