Culpability

很好看的AI 與自動駕駛的懸疑小說!最近Tesla Robotaxi 宣布在舊金山也要開始營運,劍指Waymo 的地盤。在這些地方無人駕駛的計程車讓人感覺比人類開車還安心。但是在全世界的車都自動駕駛之前,機器和人一同在道路上開車時,或許就像是百年前馬車與剛出來的汽車交錯時,那種混雜新奇盼望,和從未知焦慮吧。

小說中描述智慧機器深入人們生活中的景象,不是那種科幻或是反烏托邦式的黑暗小說。反比較就是現在可以想像到的一些情境,人們對於人工智慧帶著種種的正面和樂觀的期待。故事描述一個將滿18歲要拿到運動獎學金上大學的男孩,載著自己的一家人要出門,開啟完全自動駕駛模式,讓全家安心的各做各的事情。但是突然一聲巨響他們與另外一部車撞上了。一家5口雖然倖免於難,但另一車的老夫婦卻當場死亡。這是演算法設計者的錯,自動駕駛公司的錯,坐在駕駛座上青少年的錯,還是一旁做自己的事情的父母的錯?事故過後一家人決定找一個地方避靜一下,但是就在渡假之地又碰上另一起人為的事故。面對單純人為事故的追查與究責,跟混合著機器決策的追查與究責,考驗著當事人是否用一樣的態度與道德標準。而身為想要保護孩子的父母,如果演算法是自己親手所做出來的,他會用什麼樣的立場去判斷事件的是非對錯?

小說中混合著好幾個角色:
世界頂級的AI科學家
雄心壯志的科技公司
想要創造(掌控?)孩子未來的父母
還有每個人內心深藏的脆把秘密,只能跟機器分享

為了調查事故發生幾秒瞬間到底是發生了什麼事情,偵查員想要深入了解每一位當事者在意外發生的時候各自看到了什麼,正在做什麼。就像一般事故重組的過程一樣,將所有的線索和證詞拼湊在一起。當事人沒想到的,是他們依賴的機器也是證人。一家五口之外,警方把自動駕駛車輛,車內車外錄影和紀錄的一切也全部搜集起來,曾成為「第六位證人」。事故後等待調查時,他們無法跟家人分享的秘密只能與手機裡面類似Siri的角色傾訴。這個互動起來像個溫馨朋友的聊天機器人,卻也把所有的談話內容一字一句忠實的記錄下來,像是一位貌似溫馨實則冰冷的調查人員。

最後,肇事責任到底歸於誰?

當我們以為演算法如此厲害,人類想要全權掌握,卻創造了另一種難解的議題。演算法無法避免人想要隱藏秘密,無法避免愧疚和指責帶來的痛苦,更無法避免人生的各種意外發展。像是最早期「侏羅紀公園」電影裡,數學家對於自信滿滿的恐龍複製科學家說「生命總會找到自己的出路」一樣,「以為可以掌控」的假象,可能是現代人焦慮感大幅提高的主因吧!

“No matter what parents do, their children’s outcomes are neither predictable nor inevitable. Life is not an algorithm, and never will be.”

「不管父母做什麼,孩子的未來都無法預知,但也不都是必然。生命永遠都不會是一套演算法」

📚延伸閱讀📚
📕”Against the Gods” 中文版:「風險之書」

如果歷史總是不斷的重演,那麼為何各種「人禍」如戰爭和金融危機總是讓我們感到驚訝?這本有趣的科普書籍,是二十多年前所寫的。人類面對未來的不確定性,總是像要馴服一頭野獸般的努力著。隨著我們的運算能力越來越強大,「風險」已經被當成一種可以管理的事務,那麼我們面對未來的掌握感真的有增加嗎?(有中文版

📗”A Brief History of Motion 中文版:「移動簡史」

這本書從古代人們開始使用輪子說起,到後來維持數千年的馬車,接下來就是名副其實的「鐵馬」腳踏車,工業革命的產物火車,然後就是近百年來形塑我們生活與城市樣貌的汽車。隨著車從資產逐漸變為「移動」的服務,我們是否能想像一個無人開車的世界呢?

📘”Autonomy

作者是前通用汽車的技術長,在2009年因著金融危機,公司破產重整時,帶著30年汽車業經驗成為 Google 自動駕駛團隊的顧問。這本書從最初美國國防部 (DARPA)無人駕駛挑戰開始說起,過去這10-20年看見自動駕駛科技,搭配汽車電動化,以及人們對於 “行”的觀念從撰寫“擁有“轉向“使用”,已經可以看見巨大的汽車產業會快速地轉變。新冠疫情對於汽車銷售的巨大影響,也會加速這一切的變革。

Leave a Reply