AI算力70年增長6.8億倍,3個歷史階段見證AI技術(shù)指數(shù)級爆發(fā)

0 評論 2830 瀏覽 1 收藏 9 分鐘

隨著時代的進(jìn)步科技的發(fā)展,AI技術(shù)到如今現(xiàn)在不僅能寫詩,還能根據(jù)文本提示生成圖像,甚至是幫助人類發(fā)現(xiàn)未知的蛋白質(zhì)結(jié)構(gòu),不得不感慨AI技術(shù)的發(fā)展趨勢很強!

一張圖揭示了AI算力70多年發(fā)展了6.7億倍,未來AI各方面能力將全面超越人類,而真正令人期待的是,AI行業(yè)才剛剛進(jìn)入爆發(fā)前的萌芽期。

電子計算機于上世紀(jì)40年代誕生,而在計算機出現(xiàn)后的10年內(nèi),人類歷史上的第一個AI應(yīng)用就出現(xiàn)了。

70多年過去了,AI模型現(xiàn)在不僅能寫詩,還能根據(jù)文本提示生成圖像,甚至是幫助人類發(fā)現(xiàn)未知的蛋白質(zhì)結(jié)構(gòu)。

那么,是什么推動了AI技術(shù)在如此短時間內(nèi)的指數(shù)級增長呢?

一張來自「我們數(shù)據(jù)中的世界」(Our World in Data)的長圖,通過用于訓(xùn)練AI模型的算力變化為刻度,對AI發(fā)展歷史進(jìn)行了追溯。

圖中數(shù)據(jù)的來源,是源于一篇由MIT等大學(xué)研究人員發(fā)表的論文。

除了論文之外,還有一個研究團(tuán)隊根據(jù)這篇論文數(shù)據(jù)做了一個可視化的表格,可以隨意縮放圖標(biāo)來獲取精細(xì)的數(shù)據(jù)

圖表的作者主要通過計算運算次數(shù)以及GPU時間來估計訓(xùn)練每個模型的計算量,而對于選擇哪一個模型作為重要模型的代表,作者主要通過3個性質(zhì)來確定:

  1. 顯著的重要性:某個系統(tǒng)具有重大歷史影響,顯著提高了SOTA,或者被引用次數(shù)超過 1000次。
  2. 相關(guān)性:作者只收錄了包含實驗結(jié)果和關(guān)鍵機器學(xué)習(xí)組成部分的論文,并且論文目標(biāo)是推動現(xiàn)有SOTA發(fā)展。
  3. 獨特性:如果描述同一系統(tǒng)的另一篇論文更具影響力,那么該論文將被從作者的數(shù)據(jù)集中排除。

一、AI發(fā)展的三個時代

1. 1950年代

美國數(shù)學(xué)家Claude Shannon訓(xùn)練了一個名為Theseus的機器老鼠,使其能在迷宮中導(dǎo)航并記住路徑—這是第一個人工學(xué)習(xí)的實例。

Theseus的構(gòu)建基于40個浮點運算(FLOPs)。FLOPs通常用作衡量計算機硬件計算性能的指標(biāo)。FLOP數(shù)量越高,計算能力越強,系統(tǒng)也越強大。

計算能力、可用的訓(xùn)練數(shù)據(jù)和算法是AI進(jìn)步的三大要素。而在AI發(fā)展的最初幾十年里,所需的計算能力是按照摩爾定律增長的——計算能力也在大約20個月的時間翻一倍。

2. 2012年

由AlexNet(一個圖像識別AI)標(biāo)志著深度學(xué)習(xí)時代的開始時,這個翻倍時間大大縮短到了六個月,因為研究人員加大了對計算和處理器的投資。

3. 2015年

AlphaGo的出現(xiàn)——一個擊敗了人類職業(yè)圍棋選手的計算機程序——研究人員發(fā)現(xiàn)了第三個時代:大規(guī)模AI模型時代到來了,它的計算需求比以前所有的AI系統(tǒng)都要大。

二、未來AI技術(shù)的進(jìn)展

回顧最近的十年,計算能力的增長是如此之快,簡直令人難以置信。

例如,用于訓(xùn)練Minerva(一個可以解決復(fù)雜數(shù)學(xué)問題的AI)的計算能力幾乎是十年前用于訓(xùn)練AlexNet的600萬倍。

這種計算增長,加上大量可用的數(shù)據(jù)集和更好的算法,令A(yù)I在極短的時間內(nèi)取得了大量進(jìn)展。如今,AI不僅能達(dá)到人的表現(xiàn)水平,甚至在很多領(lǐng)域超過了人類。

1. AI能力將在方方面面不斷超越人類

從上圖可以清楚地看出,人工智能在很多領(lǐng)域已經(jīng)超越了人類的表現(xiàn),并且在其他方面也將很快超越人類的表現(xiàn)。

下圖展示了在常見的人類日常工作和生活會使用到的能力中,AI在哪一年已經(jīng)達(dá)到或者超過了人類水平。

2. AI技術(shù)發(fā)展勢能充足

難以說計算增長是否會保持相同的速度。大規(guī)模模型需要越來越多的算力來訓(xùn)練,如果算力供應(yīng)不能繼續(xù)增長,可能會減緩AI技術(shù)發(fā)展的進(jìn)度。

同樣,耗盡目前可用于訓(xùn)練AI模型的所有數(shù)據(jù)也可能妨礙新模型的開發(fā)和實施。

然而,2023年,大量資本涌入AI行業(yè),尤其是以大語言模型為代表的生成式AI?;蛟S更多的突破即將出現(xiàn),似乎以上3個促進(jìn)AI技術(shù)發(fā)展的元素都將在未來進(jìn)一步得到優(yōu)化和發(fā)展。

2023年上半年,AI行業(yè)的初創(chuàng)公司融資規(guī)模達(dá)到了140億美元,甚至比過去4年獲得的融資總和還要多。

而大量(78%)的生成式AI初創(chuàng)公司都還處于發(fā)展非常早期的階段,甚至27%的生成式AI初創(chuàng)公司公司還沒有進(jìn)行融資。

360多家生成式人工智能公司,27% 尚未進(jìn)行融資。超過一半是 輪或更早的項目,說明整個生成式AI行業(yè)還屬于非常早期的階段。

由于開發(fā)大型語言模型的資本密集型性質(zhì),自 2022 年第三季度以來,生成式AI基礎(chǔ)設(shè)施類別已獲得超過 70% 的資金,僅占所有生成式AI交易量的10%。大部分資金源于投資者對基礎(chǔ)模型和API、MLOps(機器學(xué)習(xí)操作)以及向量數(shù)據(jù)庫技術(shù)等新興基礎(chǔ)設(shè)施的興趣。

編輯:潤

來源公眾號:新智元(ID:AI_era),“智能+”中國主平臺,致力于推動中國從“互聯(lián)網(wǎng)+”邁向“智能+”。

本文由人人都是產(chǎn)品經(jīng)理合作媒體 @新智元 授權(quán)發(fā)布,未經(jīng)許可,禁止轉(zhuǎn)載。

題圖來自 Unsplash,基于CC0協(xié)議。

該文觀點僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺僅提供信息存儲空間服務(wù)。

更多精彩內(nèi)容,請關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發(fā)揮!