聯發科推出「達哥AI平台」　繁中LLM也不缺席！

▲聯發科今日舉行生成式AI論壇，推出生成式AI服務平台「MediaTek DaVinci」。（圖／記者高兆麟攝）

記者高兆麟／綜合報導

IC設計大廠聯發科（2454）今日舉行生成式AI論壇，推出生成式AI服務平台「MediaTek DaVinci」，亦稱「聯發科技達哥」，並由聯發創新基地發表平台上最新的強大繁體中文大型語言模型MediaTek Research BreeXe（MR BreeXe）。

此外，現場也邀請到已加入MediaTek DaVinci平台測試開發各類生成式AI服務應用的企業夥伴以及高科技、金融等產業的企業先進，齊聚一堂交流與分享。

基於聯發科技生成式AI服務框架（GAI Service Framework, GAISF）而開發的MediaTek DaVinci，最初是為集團內部打造具資料安全性、提高生產力的生成式AI工具，獲各部門廣泛使用，並發展成可供外部企業導入的生成式AI服務平台與豐富的生態系，目前已有數十家來自高科技、金融、電信、法律、製造、銷售、服務、系統整合、雲端服務等行業的企業，以及教育機構、新創公司等加入MediaTek Davinci生態系。MediaTek Davinci 提供一個高整合度、高擴展性的開放平台，讓開發者可為各行業開發客製化生成式AI擴充外掛、助理等應用；對企業來說，能夠在資料安全的環境下，善用平台的豐富工具提高生產力與競爭力。

MediaTek Davinci支援各類大語言模型，包含聯發創新基地最新釋出的繁體中文大語言模型「MR BreeXe」。MR BreeXe以Mixtral 8x7B模型為基礎開發，繼承Mixtral多專家模型特有的節省運算資源、提升速度優勢，再加上聯發創新基地的預訓練（pre-training）之後，不但在繁體中文測試項目（TMMLU+、MT Bench TW）超越GPT-3.5，並對台灣常見之地端應用特別進行優化，提升產業界使用生成式AI 與檢索增強生成（RAG）的體驗。MR BreeXe於輝達（NVIDIA）的Taipei -1 GPU超級電腦DGX H100上進行訓練，透過MediaTek Davinci，支援全地端與部分地端的佈設場景，並可依需求進行多樣本學習（few-shot learning）甚至微調（fine-tuning）的客製化。

聯發科技人工智慧暨數據工程處協理葉家順表示：「MediaTek DaVinci解決許多企業在採用生成式AI的痛點，讓各行各業在確保資訊安全的環境下，可善用已有強大基礎的平台開發專屬的生成式AI應用。隨著更多企業與開發者加入MediaTek Davinci生態系，我們相信MediaTek DaVinci的能力將會持續爆發性成長，成為企業的得力助手。」

聯發創新基地負責人許大山博士表示：「MediaTek Research BreeXe繁體中文大型語言模型是聯發創新基地在大模型發展上最新的里程碑，提供優異語文理解能力和雲、地兩端的彈性，為現今繁體中文能力最強的語言模型， 加上與MediaTek Davinci的搭配，相信能更貼近在地需求，激發更多在地的生成式AI應用。」

今日的聯發科技生成式AI論壇由國立臺灣大學教授李宏毅開場暢談生成式AI 發展與應用、策略合作夥伴賽微科技說明MediaTek Davinci平台的導入與系統整合、API媒合平台群鼎團隊談應用程式介面生態系整合、AI智能數據公司意藍資訊談即將在MediaTek DaVinci平台上架的AI輿情助理、群聯電子介紹其「aiDAPTIV+」服務方案如何賦能AI模型及伺服器廠商。