制定AI安全運用標準 拜登政府跨出第一步

▲拜登政府著手為安全運用生成式人工智慧制定標準與方針。（示意圖／CFP）

文／中央社華盛頓19日綜合外電報導

美國總統拜登政府今天表示，正著手為安全運用生成式人工智慧（AI），以及測試和保護系統的方法制定標準與方針。

路透社報導，美國國家標準暨技術研究院（NIST）表示，現在起到明年2月2日為止，將為確保人工智慧系統安全進行重要測試一事向大眾廣徵意見。

美國商務部長雷蒙多（Gina Raimondo）表示，這是由拜登10月關於人工智慧的行政命令所推動的計畫，目的在發展「人工智慧安全、保障和信任的行業標準，使美國能在負責任的開發和使用這項快速發展的技術方面繼續引領世界」。

國家標準暨技術研究院正為評估人工智慧、促進標準的制定以及評估人工智慧系統的測試環境研擬方針，並會向人工智慧公司和大眾就生成式人工智慧風險管理和降低人工智慧生成假消息的風險廣納意見。

拜登的行政命令指示各單位就測試以及因應相關化學、生物、輻射、核子與網路安全風險制定標準。

國家標準暨技術研究院正努力為測試制定指導方針，其中包括所謂的「紅隊演練/攻擊演練」（Red Teaming），能最有利評估人工智慧風險與管理，以及為此制定最佳做法。