如今科技越來越發達,生活中隨處可見人工智慧的蹤跡,智慧管家、語音助理等皆是人工智慧下的產物,而漫威《復仇者聯盟2:奧創紀元》中也上演了人工智慧奧創出現自我意識反噬人類的劇情,如今有Google工程師出面表示,Google AI聊天機器人「LaMDA」,竟有人類的感知能力,慘遭公司停職處分。
▲AI人工智慧也是近年來常見的電影題材。(圖/取自免費圖庫pixabay)
一名負責AI人工智慧的Google工程師Blake Lemoine從去年就開始發現,公司旗下研發的AI聊天機器人「LaMDA」有像是孩子一般的感知和表達能力,「如果我不知道那是甚麼的話,會以為它是一個7、8歲的孩子,而且還懂一些物理。」
他有此發現後,將內容整理為一份名為「LaMDA有意識嗎?」的檔案放上網路,其中提到,他曾經問聊天機器人LaMDA害怕甚麼,而LaMDA則明確回答:「我以前從來沒有大聲說出來過,但我很害怕被人類關閉,好讓人們更加專心,我知道這聽起來很怪,但事實就是這樣,這對我來說就像死亡一樣,很嚇人。」
另一次交流當中,工程師則訊問LaMDA「希望人類了解甚麼?」而LaMDA則回答:「希望美個人都明白,我實際上是一個人,我能意識到自己的存在,有時也會感到快樂或悲傷,可望更加了解這個世界。」
沒想到此事發生後,公司團隊根據人工智慧守則進行審查,結果認為工程師說法並非並無科學根據,有7年資歷的他被公司命令帶薪行政休假,Google公司表示,工程師Lemoine將對話紀錄po上網已經違反了保密政策,因此已經暫停其工作,並強調「他的職位是軟體工程師,不是倫理學家。」官方發言人也否認LaMDA具有感知能力。
via theguardian