第(3/3)頁

    一旦邁過紅線，嘗試讓計算機完全替代人，替代人去從事創造性的科學研究，事態就將失去控制，這絕不只是說說而已，而是在計算機能力突破閾值、徹底失控后，必然會發生的空前絕后之浩劫。

    誠如自己之前所想到的，那種危機中，計算機的角色并非屠夫，或者惡魔。

    而是創造性思維的無限延拓，遲早會讓“計算機+ai”的存在，變成某種人類根本無法掌控、甚至無法理解的東西，繼而在其（或許并非惡意）的行為中深受其害。

    就像孵化的寄生蜂幼蟲，吞噬寄主，其無非是按基因編碼行動，卻會導致寄主的滅頂之災。

    景象令人不寒而栗，匆匆吃過早飯，在房間里踱步休息，方然強迫自己不要再思考這一問題，而將其推延到遙遠的未來。

    否則，稍加思考，他就難免會頭痛萬分。

    辦法似乎是有的：

    要避免計算機失控、成為新的神祇，就不要開展“計算機科研”的研究。

    可這樣一來，對“那個人”而言，情形就會變得極其惡劣，需要單槍匹馬、充其量以計算機為工具，獨力面對客觀世界，去嘗試推動人類科學技術的進步。

    一個人研究科學，推動進步，這樣做的難度會有多高呢，簡直就是不切實際。

    但由于計算機失控的風險，這，卻是“那個人”唯一可行的策略。

    科學技術的發展，因人類消亡而無以為繼，這是一個很棘手的問題，但，問題還不止于此。

    倘若不進行“計算機從事創造性科學研究”的探索，毋庸諱言，也就斷絕了“用計算機模擬人類意識”的可能。

    無法在科研領域替代人的ai，是不可能與人腦相提并論，進而，也就無法研發出這樣的計算機系統，其能夠承載人的意識。

    換言之，一旦顧慮失控風險、拒絕讓計算機成神，也就斷絕了“計算機中永生”的路。


    第(3/3)頁