AI教父憂心AI不受控 諾貝爾物理學獎得主坦言不安

文/中央社

為人工智慧(AI)領域做出開創性貢獻的諾貝爾物理學獎新科得主霍普菲爾德8日表示,近期AI技術的發展令他感到「非常不安」,警告若不加以控制,恐招致災難性後果。

法新社報導,2024年諾貝爾物理學獎由美國科學家暨普林斯頓大學(Princeton University)教授霍普菲爾德(John J. Hopfield)以及英國出生的加拿大科學家辛頓(Geoffrey E. Hinton)共享殊榮。

▲▼2024年諾貝爾物理獎得主出爐,由美兩學者共享殊榮。(圖/諾貝爾官網)

▲2024年諾貝爾物理獎得主出爐,由2名學者共享殊榮。(圖/諾貝爾官網)

[廣告] 請繼續往下閱讀.

兩人因催生AI發展的開創性成果而獲獎,也共同呼籲更深入理解深度學習系統內部運作機制,以防止失控。

[廣告] 請繼續往下閱讀.

高齡91歲的霍普菲爾德在英國以視訊參與普林斯頓大學聚會時提到,他一生中目睹了2種強大但有潛在危險的科技崛起,分別是生物工程和核物理。

霍普菲爾德說:「人們已習慣擁有優劣並存、一體兩面的科技……身為一名物理學家,我對於那些不受約束、我不夠了解的科技感到非常不安,因為我無法明確知道這種科技的極限,也不知道它能被運用到什麼程度。」

[廣告] 請繼續往下閱讀..

他接著說,「這正是AI引發的問題」,儘管現代AI系統看似「令人嘆為觀止」,但對其運作缺乏理解,讓他感到「非常、非常不安」。

[廣告] 請繼續往下閱讀..

霍普菲爾德說,這正是他和辛頓為何強烈主張「理解」是AI領域的基本需求,因為AI正在發展出一些超越目前想像的能力。

辛頓去年躍居AI末日論的代表人物,他在獲聘為名譽教授的多倫多大學(University of Toront)舉行的新聞發布會上重申這個主題。

76歲的辛頓對記者說:「如果你環顧四周,幾乎沒有較高智能的東西被智能不如它的東西控制的案例,這讓你不禁想,當AI比我們更聰明時,它們是否會反過來控制我們。」

[廣告] 請繼續往下閱讀...

他補充說:「我主張,我們最優秀的年輕研究員或他們多數人都應致力投入AI安全性研究,政府也應強制大型企業提供電腦相關資源,這是他們該做的事。」