▲復旦大學發布大陸首個模型「MOSS」。(圖/翻攝自每日經濟新聞)
記者鄭思楠/綜合報導
人工智能AI聊天機器人程式ChatGPT近日成為輿論焦點,與此同時正值中美科技之爭加劇之際,大陸企業也奮起直追,研製自產的首個類似模型。20日,復旦大學團隊宣布已研發出大陸首個類ChatGPT模型MOSS。復旦MOSS公開後,引起不少網友關注。不過,由於瞬時訪問壓力過大,MOSS服務器當晚就被擠崩潰了。
據《上觀新聞》從復旦大學自然語言處理實驗室獲悉,大陸第一個對話式大型語言模型MOSS已由復旦大學計算機科學技術學院邱錫鵬教授團隊發布至公開平台。
報導稱,在開發的基本步驟上,MOSS與ChatGPT一樣,包括自然語言模型的基座訓練、理解人類意圖的對話能力訓練兩個階段。不過相較於對話能力訓練階段,OpenAI收集了至少幾十萬條人類指令,讓各行各業的專業標注員寫出指令回覆,再將它們輸入模型基座;復旦團隊則採用不同的路線,通過讓MOSS和人類以及其他對話模型都進行交互,提升了學習效率和研發效率,短時間內就完成對話能力訓練。
邱錫鵬坦言,「MOSS與ChatGPT的差距主要在自然語言模型基座預訓練這個階段。MOSS的參數量比ChatGPT小一個數量級,在任務完成度和知識儲備量上,還有很大提升空間。」
報導強調,目前MOSS已進入內測階段,內測將在使用者許可的情況下獲取資料,還將收集使用者的回饋意見,希望借此大幅增強MOSS的對話能力。
不過,20日晚間大陸社交媒體上出現截圖,顯示該平台「服務器流量過載,請明天上午重試」。對此,MOSS官網21日發布公告坦言,「MOSS還是一個非常不成熟的模型,距離ChatGPT還有很長的路需要走。我們一個學術研究的實驗室無法做出和ChatGPT能力相近的模型,MOSS只是想在百億規模參數上探索和驗證ChatGPT的技術路線,並且實現各種對話能力。」
公告稱,「我們最初的想法只是想將MOSS進行內測,以便我們可以進一步優化,沒有想到會引起這麼大的關注,我們的計算資源不足以支持如此大的訪問量,並且作為學術團隊我們也沒有相關的工程經驗,給大家造成非常不好的體驗和第一印象,在此向大家致以真誠的歉意。 」
讀者迴響