AI的發展像是科幻小說的某些劇情，但這些劇情的發展本不是理所當然或是難以避免的。好好發揮我們的想像力與價值判斷，才不會讓那些恐怖的電影情節成為自我實現的預言。
這本很冷門的書，是由一位科幻小說作者所寫的。他很厭煩人們總是說科幻小說可以正確的預言科技在未來會帶來的結果。他說科幻小說作者並不是好的預言家，但可以是很好的批評家。書中他對AI那些看似「難以避免的」發展，有諸多的批評。我覺得他的批評偏向嚴苛，但是說啟發的反思讓人耳目一新。
如果說人頭馬身的半獸人（Centaur)是結合人聰明的大腦靈活的雙手，並且駿馬強健快速奔跑的下肢，成為一個最強的組合。那麼，相反的組合（reverse centaur) 就是有個不那麼聰明的馬頭結合了跑步快也無法負重太久的人類下肢。作者用這樣子的比喻形容兩種人類與AI共存的可能性：一種是能夠藉由AI強大的力量與人類的創意和思考結合，會讓這個人像是開了外掛的一般如虎添翼。但是如果AI來成為那個做決策的，人被放在一個為科技效力的角色，不但會疲於奔命而且效果不彰。這就好像某一些叫車App裡面的演算法，表面上似乎是打市場的供需機制做到最有效率，但其實裡面透過對司機回覆的方式多做分析，對於那些最需要生意的司機剝奪更多。或是某些號稱無人的倉儲，裡面絕大多數的工作已經都是自動化的機器人，只留下少數非要人做的事情。但那些工作者為了配合機器的流程和速度，往往是疲於奔命，並且做著單調又沒有前景的工作。
之所以這樣，其中一個重要的原因就是科技業與華爾街創造出的一種信仰：顛覆性的科技（Disruptive technology) 。這本身沒有什麼不好，但是因為以華爾街為主的思考是企業的價值來自於最大化投資人回報。這樣子的價值觀讓很多的事物變成單純用數字來衡量，同時也隱含一種假設：價值的創造主要來自於取代了其他的花費。因此AI有很長一段時間是壓縮那些必須配合機器工作的人的薪資。但畢竟這樣子的工作職位一般薪水不是最高的，因此這個價值觀的運作機器，很自然地就開始盯上更加「昂貴的費用」，也就是白領工作者，甚至是工程師本人。
身為作家的作者在藝術創作領域親自的看見這些顛覆的發生以及反向的力道。美國2023年代表約11,500名電影及電視編劇的美國編劇工會（WGA）掀起罷工，對抗代表好萊塢各大製片廠與串流媒體巨頭的電影電視製片人聯盟（AMPTP）。藝術的創作很多的精神來自於創作者的取捨，作家的用字，音樂家的節拍與休止符，畫家的構圖和用色，這些取捨的決策就是創作的靈魂。當AI直接跳過這些步驟，直接仿校某種風格，或是集結過去之大乘生成一個結果，這些取捨的思路就沒了，也就是為什麼我們感覺AI的創作沒有靈魂。作者透過這個簡單的例子，分享到他們的做法並不是讓著作權無限的放大，而是讓這些使用他們作品去生成的人無法擁有著作權，讓做這件事情的利益降低，自然就遏止「AI必然取代所有工作」的自我實現預言立刻發生。當然，這件事情的壓力並沒有消失，所以作者寫這本書呼籲各方的人們不要把這些恐懼當成必然的未來。
就像任何一波科技大爆發一樣，或多或少泡沫的成分總會有回歸基本面的一天。相較於很多空泛的泡沫，書中對於AI是肯定會存留許多有價值的東西，可以讓更多的人成為開外掛的人頭馬身，而不是讓大部分人成為科技的奴隸。但能不能早一點戳破泡沫，早一點面對現實，不要讓許多無辜的投資者，莫名其妙又成了被犧牲的韭菜？好久以前的廣告詞「科技始終來自於人性」或許是現在最需要的一個提醒吧？
「關於科技最重要的事實，不是它能做到什麼，而是它在為誰服務、又在影響著誰」
（”The most important fact about a technology, isn’t what it does, it’s who it does it for, and who it does it to”)
📚延伸閱讀📚
📕”Nexus” （中文版：「連結」）
矽晶片能創造出的，會是永遠不用睡覺的間諜、永遠不會遺忘的金融家、永遠不會死去的暴君。這將會讓社會經濟與政治有怎樣的改變？
作者提到歷史中幾次面對全體人類福祉的議題，成功選擇可以控制風險的路徑。這次面對的科技雖然跟過往不同，但我們應該要拿起找尋共識如何使用這個新科技。這當然不是說每個人都要變成城市設計師，但作為世界的公民最基本的就是要能夠了解這個新科技的本質與能力，以及他對政治所產生的影響。
「科技的發展很少別無選擇。如果相信了科技決定論覺得一切沒有別的可能，你就等於讓人類再也不用負責，而這會十分危險。」
AI 驚人的發展讓人想像各種厲害的應用，但只要有玩過生成式AI，體會過所謂的「AI幻覺」(AI hallucination)，應該可以理解為什麼關於人工智慧的安全性，是這麼重要的議題。包含這個科技的透明度，公平性，安全性，是否與人類共同認定的價值一致？都是這本書想要探討的話題。
