我們尚未準備好的未來 –《X的眼淚》 by 王少杰

by 不藍燈

「──掉下眼淚,就等於跨過了機器和生命之間的界線,成為一個真真實實的人類。」

天才科學家蔡君臨創立君臨科技,目標是打造出具有自我意識、外表與真人無異的擬真機器人。艾克斯是他的心血結晶,擁有一張小男孩的臉龐、以及堪比人類的感受能力。

某日,蔡君臨被人發現陳屍於實驗室內,而艾克斯是最大的嫌疑人。面對各方質疑,艾克斯卻礙於蔡君臨生前下達的「封口令」,無法擅自與外界對話互動。案情一開始便陷入膠著,封印在沉默之中。

人類與機器的界線,隨著調查逐漸變得模糊,而隱藏在案件背後的真相,是一場自由與奴役的拔河⋯⋯

===以上文字摘自讀墨===

很喜歡這個故事,王少杰的小說通常有極深刻的情感內核,這次的故事也再次帶給讀者深深的省思和感動。

除了情感面,這個故事的魔術手法也非常滑順精彩。眼睛看著左手的時候,右手已經有神奇的事情發生了。作者在敘事節奏方面掌握得極好,讓讀者既驚喜又服氣。

讀完後,想聊聊AI。

隨著科技進步,機器人逐漸變得像人,慢慢融入人類的生活中⋯⋯相似設定的科幻作品非常多,也有許多值得探討的議題藏在裡面。

「人」是什麼,生命又是什麼?我曾經對這類的問題深深著迷。只不過那時,思考這些還比較像是為了純粹哲學式的「思辨」樂趣。但隨著大型語言模型的爆發,圖靈測試在人機之間畫出的那條線已經不再管用,這一個個問題接二連三迎面砸在現代人臉上,變得迫在眉睫。

自駕車若發生事故,責任歸屬該在車上乘客、自駕車公司,還是道路設計、通訊服務等第三方?

亞馬遜利用AI過濾求職者,AI學習的是帶有偏見的歷史數據,因此導致歧視發生。我們該修改模型或承認現實?又該由誰負責檢查與確認訓練資料?

為了提高用戶黏著度,社群平台演算法會優先推送情緒強烈或極端內容,導致社會分裂加劇。AI是否應為其行為後果負責,又該如何負責?平台是否該「中立」?還是有道德責任防止社會傷害?更進一步,言論自由與演算法干預的界線在哪?

更別提,某國許多城市導入以AI為基礎的監控系統,包括臉部辨識、行為預測與社會信用評分。AI是否淪為社會控制工具?公民有沒有拒絕被「演算法評分」的權利?透明度與救濟機制是否足夠?

以上這些倫理問題只是冰山一角,我不認為我們已經有解答。

這些早已經不是提供思辨樂趣的頭腦體操,而是得被解決的問題。我們還沒有準備好面對這些,但或許留給我們的時間已經不多了。

《X的眼淚》當然不可能給出答案,但它確實帶領我們,從某個角度重新看了一眼這些問題。

Related Articles

Leave a Comment