中研院AI出包「自稱中國籍」 院長：檢視其他計畫勿用對岸資料

▲中研院院長廖俊智。（圖／記者許敏溶攝）

文／中央社

由中研院研究員所開發的繁體中文語言模型AI出現中國觀點回應，引發各黨立委關注，中研院長廖俊智今天說，未來將成立風險控管小組，並檢視中研院其他AI計畫避免事件重演。

立法院教育及文化委員會今天邀請中央研究院院長廖俊智列席報告業務概況，並備質詢。

各黨立委今天針對中研院研究員所開發的繁體中文語言模型AI質詢，國民黨立委萬美玲詢問廖俊智，這套系統研究員上網前是否經過中研院同意。

廖俊智表示，自己是事後才知道，起因研究人員求快心切，把尚未測試的軟體上網讓大家一同測試，中間過程有待商榷，研究人員已經深切反省，中研院也經過此事體認到繁中語言辭彙很重要，需要大家一起做。

▲中研院繁體中文語言模型CKIP-Llama-2-7b大翻車，自稱「國籍為中國」、「國慶是10月1日」等，引發爭議後緊急下架。（圖／翻攝CKIP-Llama-2-7b網頁）

民進黨立委張廖萬堅詢問，中研院因此將成立「生成式AI風險小組」，後續要如何成立。

廖俊智說，目前正在規劃中，有許多方式，可以徵求相關人士或是自己組成，會儘快進行。

廖俊智也說，國際上也正在進行這樣的控管，因為AI對社會衝擊是相當大的未知數，全世界都在學習，因為生成式AI需要生成，會做一些大家沒做過的事情，也就是「幻覺」，因此國際仍然在適應、學習當中。

無黨籍立委黃國書則說，中研院還有另外6個跟AI相關的計畫，是否有去檢視其他計畫是否涉及中國資料集。

廖俊智指出，據瞭解沒有，但後續會再去跟這幾個研究員提醒，後續也會提供相關研究人員指引。