AI大模型的轉折點,關注哪些機遇?
近期,人工智能領域取得又一突破性進展,OpenAI官方隆重推出了其最新力作——模型o1。這款模型的最大亮點在于,它融合了強化學習(RL)的訓練方法,并在模型推理過程中采用了更為深入的內部思維鏈(chain of thought,簡稱CoT)技術。這一創(chuàng)新性的結合,使得o1在物理、化學、數學等需要強大邏輯推理能力的學科領域內,實現了性能的顯著提升。
OpenAI的這一成果,無疑為人工智能領域樹立了新的標桿。RL+CoT的范式,不僅在效果上顯著增強了模型的強邏輯推理能力,更為后續(xù)國內外大模型廠商的研發(fā)方向提供了新的思路?梢灶A見,在未來的日子里,沿著RL+CoT這一新路線,各大廠商將持續(xù)迭代模型,推動人工智能技術邁向新的高度。
01. 重心由預訓練轉移到后訓練和推理
2020年,OpenAI提出的Scaling Law為大模型的迭代奠定了重要的理論基礎。在o1模型發(fā)布之前,Scaling Law主要聚焦于預訓練階段,通過增加模型的參數數量、擴大訓練數據集以及提升算力,來增強模型的智能表現。然而,隨著o1模型的推出,OpenAI揭示了在預訓練Scaling Law的基礎上,通過在后訓練階段引入強化學習(RL)并在推理過程中增加長內部思維鏈(CoT,意味著更多的計算步驟),同樣能夠顯著提升模型的性能。這表明,Scaling Law不僅適用于預訓練階段,還能在大模型的后訓練和推理階段持續(xù)發(fā)揮作用。
具體來說,o1模型在編程、數學和科學領域的能力都得到了大幅提升。在Codeforces編程競賽中,o1模型的表現超過了83%的專業(yè)人員;在數學競賽方面,以AIME 2024為例,GPT-4o平均只能解決12%的問題,而o1模型平均能解決74%的問題,若采用64個樣本的共識,解決率更是能達到83%;在科學能力方面,對于博士級的科學問題(GPQA Diamond),GPT-4o的精確度為56.1%,人類專家水平為69.7%,而o1模型則達到了78%,超越了人類專家的能力。
o1模型的問世,為下一步大模型的訓練和迭代提供了新的參考范式——即RL+CoT。從定性角度看,RL+CoT需要更多的訓練和推理算力。在o1模型之前,如GPT-4o等模型主要經歷了預訓練和后訓練(基于人類反饋的強化學習RLHF)兩個階段,推理則采用單次推理或短CoT。然而,o1模型在預訓練階段的算力變化可能并不大,主要目的是保證模型具有較好的通用能力。在后訓練階段,由于采用了RL,模型需要通過不斷搜索的方式來迭代優(yōu)化輸出結果,因此算力消耗有望上升。在推理階段,o1模型在RL訓練下學會了內部長CoT,推理所需的token數量明顯增長,因此推理算力相比之前的單次推理或短CoT也顯著上升。
綜上所述,在新的大模型訓練范式下,從定性角度看,模型需要更多的訓練和推理算力來支持其性能的提升。
02. 算力和應用端或值得關注
目前升級版的AI大模型主要聚焦于強化邏輯推理能力,通過實現完整的分步驟推理過程,可以顯著提升回復的邏輯性和條理性。這一升級預示著Agent Network的初步框架即將形成,對于那些需要更嚴密邏輯處理的B端用戶,有望率先從中受益。同時,隨著系統(tǒng)對復雜實際環(huán)境中邊緣場景的處理能力得到增強,其應用范圍和效果也將得到進一步提升。
華泰證券分析指出,RL+CoT的訓練范式不僅延續(xù)了預訓練階段的Scaling Law,還進一步將其擴展到了后訓練和推理階段。在預訓練算力保持相對穩(wěn)定的情況下,RL后訓練和CoT推理將催生新的算力需求。這些需求的具體規(guī)模將取決于RL搜索的深度、CoT的內在長度以及推理效果之間的平衡。由于RL+CoT實際上為行業(yè)內的其他模型開發(fā)商設定了下一代模型迭代的基本框架,預計這一范式將被廣泛采納,從而帶動訓練算力需求的顯著提升。在此背景下,建議投資者關注與算力相關的企業(yè),如博通、滬電股份、工業(yè)富聯等。
此外,盡管o1模型目前主要解決的是數學、代碼和科學領域的推理問題,但其核心在于構建模型的CoT能力。CoT作為推理的重要手段,有望在端側結合用戶的更多私有數據進行應用。蘋果AI Agent被視為實現CoT能力的理想計算平臺。因此,建議投資者關注與蘋果產業(yè)鏈相關的企業(yè),包括立訊精密、鵬鼎控股、水晶光電、歌爾股份、藍思科技、東山精密、長電科技等。
最后,o1模型展現出的強邏輯推理能力有望擴展到更廣泛和通用的領域,并且在推理性能上相較于前代模型有顯著提升。這意味著基于o1及后續(xù)大模型的AI應用和Agent有望在能力上實現本質性的超越。因此,建議投資者關注核心的AI應用企業(yè),如微軟、奧多比、金山辦公、泛微網絡、螢石網絡等。
原文標題 : AI大模型的轉折點,關注哪些機遇?

請輸入評論內容...
請輸入評論/評論長度6~500個字
最新活動更多
推薦專題
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達AI統(tǒng)治的開始
- 2 北電數智主辦酒仙橋論壇,探索AI產業(yè)發(fā)展新路徑
- 3 “AI寒武紀”爆發(fā)至今,五類新物種登上歷史舞臺
- 4 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 5 國產智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計算迎來商業(yè)化突破,但落地仍需時間
- 7 東陽光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開成長空間
- 8 優(yōu)必選:營收大增主靠小件,虧損繼續(xù)又逢關稅,能否乘機器人東風翻身?
- 9 地平線自動駕駛方案解讀
- 10 封殺AI“照騙”,“淘寶們”終于不忍了?