人類操控AI，像是米老鼠的《魔法師的學徒》

「矽晶片能創造出的，會是永遠不用睡覺的間諜、永遠不會遺忘的金融家、永遠不會死去的暴君。這將會讓社會經濟與政治有怎樣的改變？」

如同之前提到的，因為人類如何組織起來，如何相信一個共同的故事，打造出一個存在於主體間的現實（例如貨幣，國家，或是共同的信仰）。光是靠口述文化是絕對不夠的，因為人類大腦的容量，會對群體所創造主體間的現實，形成實體的限制。因此寫成文件就能夠打破大家無法靠大腦記住的限制。這些文件，隨著人類組織越來越複雜，也變得越來越龐大。所謂的「官僚系統」好像聽起來很負面，但沒有了這些規則和協定，很難維持大規模的人際網路。

然後在15世紀的時候，印刷術出現了

這個重大的發明，突然讓更多人都能夠獲得資訊。爾後所帶來的科學革命，甚至是馬丁路德所引領的基督教會改革，都是因為大量的書籍和文字能夠到更多人的手中。但是就像一體的兩面一般，文字印刷的普及也讓某些沒有得到修正的錯謬思想散播的更加快速。書中提到中古世紀獵巫的風暴，也就是透過這樣的「眾口爍金」造成的不幸現象。就如同前一篇所分享的，一個資訊傳播的網路如果沒有自我修正的能力，就很容易走向偏頗。而要能夠修正卻不造成整體秩序的混亂，是所有群體要解決的問題。

「資訊網路的歷史，一直就是在看如何維持真理真相與秩序之間的平衡。想要為了秩序而犧牲真理真相，需要付出代價：但想要為了真理而犧牲秩序，代價同樣也不低。」

印刷機不會自己創造文字

把現在的A I發展比喻成15世紀的印刷術革命，那可能太小看電腦的威力了。書中舉出過去這五年當中，在世界不同地方產生的種族仇恨，甚至是引發幾乎是滅種族清洗一般的行為。事後查詢發現，竟然是從某些社群媒體所散播的資訊造成一連串的效應。

追根究底，是因為社群媒體的商務模式需要提升用戶參與度，乖乖照辦的AI演算法發現，提升用戶參與度最棒的方式就是「激起使用者的憤慨」。因此演算法不但猛力推薦這些增加仇恨值的內容，甚至當中假帳號創造的虛假內容也一併水漲船高。

因為演算法產生的這種危險效應，現在只是在起頭而已。作者在幾年前就提到現在A I的發展是電腦「駭入人類文明的作業系統」。我們仰賴彼此的連結來傳遞資訊，仰賴這樣子的連結來建立信任感。但隨著演算法開始能夠自主達成目標，甚至會偽造像人（雲端情人？）一般的親密感。突然之間在人類網絡中加入了一大堆非人類的資訊創造與傳播者。

AI 是極權者的夢幻工具還是新的主人

回到作者歷史學家的背景，他列舉了西方歷史當中一位極權並且想要完全掌控人民的君主。極權統治者透過各種監控和人們可以彼此告發的恐懼心理來掌控資訊的傳遞與內容。但是在歷史中不乏看到那些少數被授權的禁衛軍、宦官、秘密警察等等，最後反而是把持住了這樣的極權統治者，反而讓他成了傀儡。

現代電腦的網路可能會讓過去的獨裁君主羨慕不已。而且更神奇的是大家拼命的，免費的來分享自己的資訊和想法。作者講到某些企業家想要開發移植晶片在大腦當中的科技，藉此獲取每個人腦中的資訊。但其實根本不需要這麼麻煩，因為我們離不開的智慧型手機就已經是那個無時無刻的監控者了。

可是，當獨裁者想要使用這樣的監控工具時，他真的知道這個監控工具是在傳遞他的旨意嗎？過去歷史中的獨裁者最大的威脅，是身邊的親信和下屬。碰到演算法成為幫忙監督的下屬，獨裁者成為演算法的傀儡反而變得更加的容易。就像迪士尼電影《魔法師的學徒》，米老鼠以為它可以操控掃帚做很多事情，最後反而發現已經超出他掌控的範圍了。

電腦的問題不在於他特別邪惡而在於他特別強大

我記得曾經參加過一場訪談，當中ㄧ位創業家說不用怕電腦做出傷害人的決策「把善良放入AI的程式當中啊！」。這樣的想法恐怕太天真了，因為電腦造成意外結果已經屢屢發生了。

在AlphaGo 打敗人類圍棋高手時，最令人驚訝的是，它為了贏得比賽（人類給予的目標），竟然用沒有人想過的方式完成。我們現在生活中又有多少決策是演算法決定的，決定要給你看什麼內容，面試或交友app決定你是否會被青睞。把這些決策逐步交出來的人類，如果消極的認為事情只能這樣發展，就錯失了選擇未來方向的機會。

作者提到歷史中幾次面對全體人類福祉的議題，成功選擇可以控制風險的路徑。這次面對的科技雖然跟過往不同，但我們應該要拿起找尋共識如何使用這個新科技。這當然不是說每個人都要變成城市設計師，但作為世界的公民最基本的就是要能夠了解這個新科技的本質與能力，以及他對政治所產生的影響。

「科技的發展很少別無選擇。如果相信了科技決定論覺得一切沒有別的可能，你就等於讓人類再也不用負責，而這會十分危險。」

📚延伸閱讀📚

📕“The Alignment Problem”

AI 驚人的發展讓人想像各種厲害的應用，但只要有玩過生成式AI，體會過所謂的「AI幻覺」(AI hallucination)，應該可以理解為什麼關於人工智慧的安全性，是這麼重要的議題。包含這個科技的透明度，公平性，安全性，是否與人類共同認定的價值一致？都是這本書想要探討的話題。

The Alignment Problem

📘”Deep Thinking” 中文版「深度思考」

1997年號稱被電腦打敗的棋王後來如何了？

“電腦一無是處，因為電腦只會提供答案” — 畢卡索。答案代表終點，而對於畢卡索來說，永遠都沒有終點，只有新的問題待探索

Deep Thinking 深度思考

📗”New Laws of Robotics” 新機器定律

針對AI (或是能決策的機器和電腦）人們有可能創造出共識來規範嗎？著算是一本拋出基本想法，呼籲規範重要性的書籍。身為紐約大學法律系教授的作者跟許多的教授作者一般，寫出來的書都不是太好讀 😂。這本書有趣的地方在於它不是單純從技術或是經濟的角度，思考機器對未來工作的影響。而是從法律如何制定的角度切入，而這一切其實都源自於我們怎麼看待所謂“工作的價值”

New Laws of Robotics 新機器定律