文：阿尼爾．塞斯（Anil Seth）

機器思維

十六世紀末在布拉格，身為識必善意一位名為勒夫（Judah Loew ben Bezalel）的自己拉比，從伏爾塔瓦河畔取得黏土，機器件們機器殭屍機器並用黏土塑造了一個與人類相似的有意意識人形雕像——一個傀儡（golem）。這個傀儡名為約瑟夫（Josef）或約瑟爾（Yoselle），須具是備條辦法為了保護拉比的人民免受反猶太主義大屠殺而創造的，而且顯然製作得很有效。區別一旦以魔法咒語啟動，惡意像約瑟夫這樣的身為識必善意傀儡就可以移動、具有意識，自己並且會服從命令。機器件們機器殭屍機器

不過約瑟夫出現了可怕的有意意識錯誤，它的須具行為從笨拙的服從者變成暴力的怪物。最後，備條辦法拉比成功解除咒語，區別讓這尊傀儡在猶太教堂變成碎片。傳說這具傀儡的遺骸至今仍藏在布拉格，也許在墓地裡，也許藏在閣樓裡，也許正耐心等待被重新啟動。

勒夫拉比的傀儡提醒我們，當我們試圖塑造聰明、有感知的生物時——而且是按我們自己的形象，或是以神的思想創造的生物——便會招致狂妄自大，因為事情很少會真的進展順利。從瑪麗．雪萊（Mary Shelley）筆下《科學怪人》（Frankenstein）中的怪物，到加蘭（Alex Garland）的電影《人造意識》（Terminator）中的艾娃，再到恰佩克（Karel apek）的同名機器人、卡麥隆電影裡的「終結者」（Terminator），以及史考特電影《銀翼殺手》（Blade Runner）中的複製人，還有庫柏力克（Stanley Kubrick）的HAL電腦等。這些創造物幾乎都會反過來對抗它們的創造者，留下毀滅、憂鬱和哲學困惑的痕跡。

在過去近十年，人工智慧的迅速崛起，為機器意識問題帶來新的急迫性。人工智慧現已出現在你我身邊，內建於我們的手機、冰箱和汽車中，在許多情況下是由受到大腦架構啟發的「神經網路」演算法提供支持。我們理所當然地擔心這種新技術的影響：它會奪走我們的工作嗎？它會解散我們的社會結構嗎？甚至到了最後，它會毀滅所有人類嗎？——無論是否因為它的自我利益考量，或因為最初的程式編寫缺失而導致所有地球資源被用來製造一堆迴紋針。在這些擔憂背後，尤其是存在主義和對世界末日的擔憂，引發了這樣的假設：人工智慧將在加速發展的某個時刻開始萌生自我意識，就像一種用矽製造的傀儡神話一樣。

機器要有意識，必須具備哪些條件？會造成什麼影響？還有，我們是否有辦法區別意識機器（善意的）與殭屍機器（惡意的）？為何我們會認為機器，或說人工智慧，可以變得有意識？正如我剛才提到的，人們普遍認為（儘管這絕不是普遍的）一旦機器達到某些未知的智慧門檻，意識就會自然地出現。

但到底是什麼驅動了這種直覺想法？我認為有兩個關鍵假設是主要原因，但兩者都無法證明。第一是假設任何事物要有意識一定有所謂的必要條件；第二是假設只要條件夠充分，就可以讓特定事物開始產生意識。

第一種假設的必要條件，就是功能主義（Functionalism）的說法。功能主義認為意識並非取決於系統由什麼構成，無論是濕體或硬體，不管是神經元還是矽邏輯閘，或甚至是伏爾塔瓦河的黏土都沒有關係。功能主義認為對意識來說，重要的是系統所做的事。如果一個系統以正確的方式將輸入轉化為輸出，就會產生意識。

正如我在第一章解釋過的，這裡有兩個獨立的主張，第一是關於獨立於任何特定基質或材料，第二則是關於輸入——輸出關係的充分與否。大多數時間它們相互關聯，但有時也會分離。

功能主義是在心靈哲學家中流行的一種觀點，經常被許多非哲學家接受為預設立場。但這不意味著它就是正確的。對我來說，無論意識是否獨立於基質之外，或者只是輸入——輸出關係，亦即「訊息處理」而已，我都沒有任何支持或反對意見。我對功能主義的看法比較偏向一種可疑的「不可知論」（Agnosticism）。要讓人工智慧電腦產生意識，功能主義必須成立，因為這是必要條件。

但光是功能主義本身正確也還不夠，因為處理訊息本身並不足以形成意識。第二種假設是，足以產生意識的訊息處理也是智力的基礎。這是在假設意識和智力是密切相關的，甚至在本質上相互關聯，因而意識會隨之而來。

然而這種假設也得不到良好的支持。正如我們在前一章所見，把意識與智力混為一談的傾向，源自於一種惡意的人類中心主義，讓我們透過扭曲自己的價值觀和經驗來過度解釋世界：我們是有意識的，我們是聰明的，我們對自己宣稱的智力感到如此自豪，以致我們認為智力與我們的意識狀態密不可分，反之亦然。

儘管智力為有意識的生物提供了豐富多樣的意識狀態，但認為智力（至少在先進形式中）對意識而言是必要條件或充分條件，卻是錯誤的。如果我們堅持認為意識與智力在本質上緊密關聯，可能就會太急著將看似有智力的人造系統歸類於具有意識，並且會太快否認其他系統（如其他動物），認為無法符合我們未必正確的人類認知能力標準。

在過去幾年裡，這些關於必要性和充分性的假設，已被許多其他的擔憂和誤解粉飾後推給外界，為人工意識的前景帶來一種不該有的緊迫性，以及世界末日般的色彩。