IT之家 1 月 25 日消息，IT之家從中國電信人工智能研究院獲悉，其“復雜推理大模型”TeleAI-t1-preview 現(xiàn)已正式發(fā)布，即將上線天翼 AI 開放平臺。TeleAI-t1-preview 使用了強化學習訓練方法，通過引入探索、反思等思考范式，大幅提升模型在邏輯推理、數(shù)學推導等復雜問題的準確性。
官方表示，在美國數(shù)學競賽 AIME 2024 、MATH500 兩項數(shù)學基準評測中，TeleAI-t1-preview 分別以 60 和 93.8 分的成績，大幅超越 OpenAI o1-preview、GPT-4o 等標桿模型。在研究生級別問答測試 GPQA Diamond 中，TeleAI-t1-preview 得分超過 GPT-4o，并比肩 Claude 3.5 Sonnet 的性能水準。
評測顯示，將《九章算術》中的一道題目給到 TeleAI-t1-preview 后，其能夠先針對文言文進行理解和簡化，再轉換成現(xiàn)代漢語，隨之給出數(shù)學推導和答案。
據(jù)介紹，在此過程中，TeleAI-t1-preview 可將形象思維與抽象思維結合，對所涉及的場景進行具象化思考，輔助理解題目。不僅如此，其還能夠嚴謹?shù)剡M行古今單位換算。
TeleAI 引入了創(chuàng)新的訓練策略，從而保障思考推理過程準確有效。
數(shù)據(jù)準備階段：收集、構建了一個以數(shù)學為核心、多學科為補充的高質量推理數(shù)據(jù)集，確保模型能夠適應不同類型的推理任務。
Judge Model（評估模型）：訓練了一個 Judge Model 專門用于分析和評估模型長思考鏈路的正確性，為模型的反思和錯誤修正提供指導。
SFT（監(jiān)督微調）階段：用 MCTS（蒙特卡洛樹搜索）構造高質量長推理數(shù)據(jù)，結合每個步驟的準確率和解決方案長度來選擇最優(yōu)的完整路徑，在保證推理答案準確性的同時有效拉長思考鏈路以獲得更細粒度的推理過程。同時使用 Judge Model 對推理過程中正確率較低的路徑進行分析，引導模型對錯誤的推理步驟進行反思和修正，從而構造出高質量的思維鏈數(shù)據(jù)進行 SFT 訓練。
強化學習階段：額外構造了 Rule-based Reward Model（基于規(guī)則的獎勵模型），以提供足夠準確的獎勵信號，通過在線強化學習算法進一步提升模型的邏輯推理能力。
廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。