AI大模型已經(jīng)成為創(chuàng)業(yè)熱點。

2012年，李志飛選擇回國，在語音交互領(lǐng)域創(chuàng)業(yè)，創(chuàng)立出門問問。

前商湯科技副總裁、通用智能技術(shù)負(fù)責(zé)人閆俊杰已進軍多模態(tài)AI大模型領(lǐng)域，于2021年11月成立人工智能公司MiniMax。

MiniMax從底層做起，形成了文本到視覺（texttovisual）、文本到語音（texttoaudio）、文本到文本（texttotext）三大模態(tài)的基礎(chǔ)模型架構(gòu)。

這可能是國內(nèi)第一家同時擁有3個模態(tài)大模型能力的創(chuàng)業(yè)公司。

在toC方向，其首款A(yù)I虛擬聊天社交軟件Glow推出四個月已經(jīng)積累數(shù)百萬用戶；在toB方向，MiniMax計劃在今年對外開放API。

Glow的基本玩法是在應(yīng)用中創(chuàng)建虛擬AI機器人，可以根據(jù)用戶意愿賦予其性格，實現(xiàn)實時溝通、互動并建立情感連接。

助推AI應(yīng)用走向具體落地

如果將AI比作電力，那么大模型則相當(dāng)于發(fā)電機，能將智能在更大的規(guī)模和范圍普及。

大模型的智能能力在未來將成為一種公共基礎(chǔ)資源，像電力或自來水一樣隨取隨用。

每個智能終端、每個APP，每個智能服務(wù)平臺，都可以像接入電網(wǎng)一樣，接入由IT基礎(chǔ)設(shè)施組成的智力網(wǎng)絡(luò)，讓AI算法與技術(shù)能夠更廣泛地應(yīng)用于各行各業(yè)。

最底層是AI通用大模型，上面可以做AIGC，比如說Midjourney可以畫畫，Jasper可以寫文案等；

也可以基于底層模型做對話機器人，比如基于ChatGPT。

在美國，除了OpenAI和巨頭，還有另外三、四家創(chuàng)業(yè)公司也都在做AI通用大模型，都有大幾億美金的投入。

首先它有超強的語言能力，在學(xué)習(xí)語言的過程中，也學(xué)習(xí)了很多知識和邏輯。

模型學(xué)會了非常底層的結(jié)構(gòu)和機制。萬物都是自然產(chǎn)生的，語言也好，生物結(jié)構(gòu)也好，它一定符合某種我們目前難以解釋的規(guī)律。

模型經(jīng)過互聯(lián)網(wǎng)上所有的數(shù)據(jù)訓(xùn)練之后，它也獲得了某種屬于自己的解讀方式。

現(xiàn)在的通用大模型，即使進行了微調(diào)后，依舊可以做多個任務(wù)。

預(yù)訓(xùn)練的核心是讓它有基礎(chǔ)的認(rèn)知和邏輯能力，通過微調(diào)引導(dǎo)，讓它能夠在各項任務(wù)上處理得更好，知道怎么使用已有的知識。

國內(nèi)公司與機構(gòu)競相研發(fā)

AI大模型先后經(jīng)歷了預(yù)訓(xùn)練模型、大規(guī)模預(yù)訓(xùn)練模型、超大規(guī)模預(yù)訓(xùn)練模型三個階段，參數(shù)量實現(xiàn)了從億級到百萬億級的突破。

國外的超大規(guī)模預(yù)訓(xùn)練模型起步于2018年，并在2021年進入[軍備競賽]階段。

而在國內(nèi)，超大模型研發(fā)展異常迅速，2021年成為中國AI大模型的爆發(fā)年。

2021年，商湯發(fā)布了書生（INTERN）大模型，擁有100億的參數(shù)量，這是一個相當(dāng)龐大的訓(xùn)練工作。

在訓(xùn)練過程中，大概有10個以上的監(jiān)督信號幫助模型，適配各種不同的視覺或者NLP任務(wù)，截至2021年中，商湯已建成世界上最大的計算器視覺模型，該模型擁有超過300億個參數(shù)；

同年4月，華為云聯(lián)合循環(huán)智能發(fā)布盤古NLP超大規(guī)模預(yù)訓(xùn)練語言模型，參數(shù)規(guī)模達1000億；

聯(lián)合北京大學(xué)發(fā)布盤古α超大規(guī)模預(yù)訓(xùn)練模型，參數(shù)規(guī)模達2000億。

阿里達摩院發(fā)布270億參數(shù)的中文預(yù)訓(xùn)練語言模型PLUG，聯(lián)合清華大學(xué)發(fā)布參數(shù)規(guī)模達到1000億的中文多模態(tài)預(yù)訓(xùn)練模型M6；

7月，百度推出ERNIE3.0知識增強大模型，參數(shù)規(guī)模達到百億；

10月，浪潮信息發(fā)布約2500億的超大規(guī)模預(yù)訓(xùn)練模型[源1.0]；

12月，百度推出ERNIE3.0Titan模型，參數(shù)規(guī)模達2600億。

而達摩院的M6模型參數(shù)達到10萬億，將大模型參數(shù)直接提升了一個量級。

2022年，基于清華大學(xué)、阿里達摩院等研究成果以及超算基礎(chǔ)實現(xiàn)的[腦級人工智能模型]八卦爐（BAGUALU）完成建立。

其模型參數(shù)模型突破了174萬億個，完全可以與人腦中的突觸數(shù)量相媲美。

2021年12月，百度發(fā)布了全球首個知識增強千億級大模型——鵬城-百度·文心大模型，產(chǎn)業(yè)級知識增強[文心大模型]系列大模型也正式對外。

百度文心大模型正從技術(shù)自主創(chuàng)新和加速產(chǎn)業(yè)應(yīng)用兩方面，推動中國AI發(fā)展更進一步。

2022年11月，百度發(fā)布了文心大模型的最新升級，包括新增11個大模型，大模型總量增至36個。

部分公司中國公司雖然目前還沒有正式推出自身大模型產(chǎn)品，但是也在積極進行研發(fā)。

云從科技的研究團隊高度認(rèn)同[預(yù)訓(xùn)練大模型+下游任務(wù)遷移]的技術(shù)趨勢，從2020年開始，已經(jīng)陸續(xù)在NLP、OCR、機器視覺、語音等多個領(lǐng)域開展預(yù)訓(xùn)練大模型的實踐。

以商湯科技的書生（INTERN）為例，在分類、目標(biāo)檢測、語義分割、深度估計四大任務(wù)26個數(shù)據(jù)集上，基于同樣下游場景數(shù)據(jù)（10%）。

相較于同期OpenAI發(fā)布的最強開源模型CLIP-R50x16，平均錯誤率降低了40.2%，47.3%，34.8%，9.4%。

實現(xiàn)從[手工作坊]到[工廠模式]的轉(zhuǎn)變

在深度學(xué)習(xí)技術(shù)興起的近10年間，AI模型基本上是針對特定應(yīng)用場景需求進行訓(xùn)練的，即小模型，屬于傳統(tǒng)的定制化、作坊式的模型開發(fā)方式。

這意味著除了需要優(yōu)秀的產(chǎn)品經(jīng)理準(zhǔn)確確定需求之外，還需要AI研發(fā)人員扎實的專業(yè)知識和協(xié)同合作能力完成大量復(fù)雜的工作。

模型無法復(fù)用和積累，同樣導(dǎo)致了AI落地的高門檻、高成本與低效率。

而大模型通過從海量的、多類型的場景數(shù)據(jù)中學(xué)習(xí)，并總結(jié)不同場景、不同業(yè)務(wù)下的通用能力，學(xué)習(xí)出一種特征和規(guī)則，成為具有泛化能力的模型底座。

由此利用大模型的通用能力可以有效的應(yīng)對多樣化、碎片化的AI應(yīng)用需求，為實現(xiàn)規(guī)模推廣AI落地應(yīng)用提供可能。

大模型相對于傳統(tǒng)AI模型開發(fā)模式在研發(fā)時擁有更標(biāo)準(zhǔn)化的流程，在落地時擁有更強的通用性，可以泛化到多種應(yīng)用場景；

并且大模型的自監(jiān)督學(xué)習(xí)能力相較于傳統(tǒng)的需要人工標(biāo)注的模型訓(xùn)練能夠顯著降低研發(fā)成本，共同使得大模型對于AI產(chǎn)業(yè)具有重要意義。

結(jié)尾

熱潮已經(jīng)襲來，有技術(shù)基礎(chǔ)的企業(yè)在強勢突圍，沒有技術(shù)基礎(chǔ)的企業(yè)準(zhǔn)備發(fā)力，尚待進場。

而等熱潮退去，能否留在場上，還需看清自己的優(yōu)勢和短板。

中國要有自己的通用自然語義大模型，它需要有為全球通用人工智能提供中國智慧、中國價值體系和中國方案的愿景；

需要從語料庫選擇、模型建構(gòu)與訓(xùn)練、參數(shù)調(diào)整的全過程前置規(guī)避風(fēng)險和法律、道德與倫理問題，更需要的是定力和耐心。

無論如何，它不能投機。