中研院AI出包稱「國家領導人是習近平」 監察院申請自動調查

▲監察院。（圖／ETtoday資料照）

記者杜冠霖／台北報導

中央研究院詞庫小組(CKIP)日前釋出繁中大型語言模型「CKIP-Llama-2-7b」，但網友實測卻發現此AI自稱中國籍、國家領導人是習近平等，引發爭議。監察院今（6日）指出，我國在推動可信任生成式AI亦面臨多項挑戰，包括大型語言模型（LLM）繁體中文語料不足，以及可能被濫用，生成具有負面影響或偏見的言論與內容等，監察委員賴鼎銘、林郁容、葉宜津深表關切，申請自動調查。

監察委員指出，112年10月，國內研究單位釋出之繁中優化大型語言模型（LLM），生成出爭議的內容，引發各界疑慮而下架，凸顯我國在推動LLM時繁中語料不足所產生之困境，及自主研發大型語言模型的重要性。

監委表示，考量LLM未來的普及性、影響力，以及所用資料集之語言分布落差可能導致的歧視性或偏見言論、虛假信息等。究政府機構對於推動健全LLM之關鍵要素，如語料取得、算力建置及測評，相關措施是否允當？政策是否積極？等諸多疑義，將進行深入調查。