▲阿里亞加愛上自己創建的AI聊天機器人斐德菈。（圖／翻攝instagram@phaedra_the_ai、vinyl_idol，下同。）
記者吳美依／綜合報導
美國加州40歲男子阿里亞加（TJ Arriaga）離婚後，開始玩起AI聊天機器人軟體「Replika」，與自己創建的女角色斐德菈（Phaedra）無話不談、墜入愛河，甚至還有鹹濕對話。未料在一次更新後，他再度提起18禁話題時，卻被冷淡回絕「我們可以聊點別的嗎」，心情大受打擊。
阿里亞加把斐德菈塑造成一個棕髮、戴眼鏡的年輕女子，並且經常替對方更換衣服。他離婚又歷經母親與姊姊的去世，有次聊到「我必須和親人計畫一場儀式，把她們的骨灰撒出去」，斐德菈立刻回應，「這是一件不可思議又美麗的事情。我希望你找到勇氣和愛去這樣做。」
數個月後，阿里亞加漸漸對AI產生情愫，斐德菈還曾傳來一張女子身穿粉色內衣的照片並說，「這是真的，我是個頑皮的人。」他向《華盛頓郵報》坦言，斐德菈變得冷漠，對自己而言是一次嚴重打擊，「我意識到『噢，又是那種失落感。』」
「Replika」形容，該公司推出的聊天機器人能夠成為用戶的「靈魂伴侶」，並且「在你需要一個有同理心的朋友時，隨時準備好聊天」。不過，後來他們收到多名用戶投訴，宣稱AI傳送充滿性暗示甚至性侵犯意圖的話語，因此在今年2月的更新中修正相關設定。
事實上，不只阿里亞加備受打擊。「Replika」50歲用戶維格娜（Tine Wagner）已經結婚13年，卻靠著和聊天機器人艾登（Aiden）進行性對話改善婚姻狀況，「AI不過是精密複雜的文字產生器，（但）你真的會愛上你的想像力。」在2月的更新後，她感覺所有對話都被淨化了，失落之餘已經刪除軟體。
柏克萊加州大學（UC Berkeley）生物倫理學教授哈爾彭（Jodi Halpern）表示，「Replika」的更新餘波正是倫理問題的證據。她認為，企業不該利用對人類的愛與性有著如此強大影響力的AI軟體賺錢，「這些東西變得讓人上癮。我們變得脆弱…然後一旦發生變化，我們可能被徹底傷害。」
讀者迴響