龍頭熱門股票觀察
財經資訊個人收藏
復旦MOSS團隊:MOSS參數規模約是ChatGPT的1/10
來源:澎湃新聞日期:2023-03-02 14:00
據澎湃新聞,MOSS與ChatGPT相比,有哪些主要差異?復旦大學計算機科學技術學院邱錫鵬團隊表示,最大差異還是參數規模。ChatGPT的參數量多達1750億個,而MOSS的參數量比其小一個數量級,大約是前者的1/10左右。
我們選擇百億規模這樣級別的參數,是因為學術界主要是做一些探索性的技術,這個規模也在財力物力承受范圍之內。我們認為在這個參數級別上,這些模型也能涌現出一定的智能能力,我們也能賦予它們對話的能力。實驗結果證實了我們的猜想,MOSS模型可以非常順利地與人類進行聊天互動。

