新加坡國立大學發表 GOAT AI 算術模型 聲稱比 GPT-4 計數更準

| 蘇家華 | 13-06-2023 14:26 | |
新加坡國立大學發表 GOAT AI 算術模型 聲稱比 GPT-4 計數更準

新加坡國立大學日前發表 GOAT AI 算術模型,定位為專門用於算術問題。當中不只得特別在是以 Meta LLaMA 大型語言模型進行微調,也聲稱比 GPT-4 計數更準確的。

新加坡國立大學發表 GOAT AI 算術模型 聲稱比 GPT-4 計數更準
新加坡國立大學近日宣布推出GOAT AI算術模型,專為解決算術問題而設。相對於OpenAI GPT-4在算術能力上的不足,GOAT AI聲稱其算術準確性更高。該研究團隊利用LLaMA大型語言模型進行微調,並採用了新的算術學習策略。通過將任務分類並將不可學習的算術問題拆分為可學習的子任務,模型能夠更好地學習答題模式。研究人員在進行訓練時使用了具有24GB VRAM的GPU,並在測試中取得了令人驚艷的準確度。GOAT AI模型在算術問題解決上展現出優異性能,為解決算術挑戰提供了新的解決方案。

↓↓↓同場加映:【曼谷直擊】TCL 全新 mini LED 旗艦電視發布!搭配自家研發 AiPQ Processor 3.0↓↓↓

即刻【按此】,用 App 睇更多產品開箱影片

現時 OpenAI GPT-4 AI 工具的最大缺點是在於其算術能力較差,一些許多人認為相對簡單的算術問題,GPT-4 卻無法得出正確答案,因此新加坡國立大學日前發表 GOAT AI 算術模型,就是針對這問題,並以 LLaMA 大型語言模型進行微調而成。研究團隊起用新方案,將任務根據算術可學習類型進行分類,然後利用基本算術原理,將不可學習的任務分拆為一系列可以學習的任務,之後再導入於 AI 模型,令模型可以學習答題模式,並將過程演化為數據,而非單靠權重記憶計算,做到提升計數性能效果之外,也在零樣本學習中,以近乎百分百精確為大數加法和減法生成答案。

另外,研究人員也在具備 24GB VRAM 的 GPU 上進行訓練,並將最終得到的模型以 BIG-bench 算數子任務進行測試,準確度結果領先業界的 Bloom、GPT-NeoX、OPT 等模型。尤其零樣本的 Goat-7B 準確率,甚至一度超過少樣本學習後的 PaLM-540 模型,而在大數計算方面也遠超 GPT-4 的。

【相關報道】【ChatGPT 熱】新加坡鼓勵學生學用 ChatGPT 教育部:就如數學要學用計數機

【相關報道】新加坡大學發表「靠 AI 將文字轉化 3DVR 圖像」文章 或顛覆繪圖等行業生態

【相關報道】解決光纖網絡難舖設問題 新加坡新創想出以鐳射直射訊號

Source: IT 之家

Page 1 of 13