第(3/3)頁

    拒絕人為修訂，這種措施，是可以一勞永逸的杜絕風險，同時也會斷絕強人工智能的改進升級之可能，似乎是很不明智的策略。

    不過，方然的本意并不是這樣，他沒有命令“盤古”拒絕一切外來的改進、重構等指令。

    之所以出現這樣的情況，原因，一點也不復雜，人類無法跟上強ai的思維，就是其絕對無法改進“盤古”根本障礙。

    改進，對一切人造之物，似乎都是很尋常的操作，即便功能已臻完美的機器、系統，總歸也可以因人的需求變化，甚至只是主觀好惡，而進行一系列的改變。

    但是對“盤古”這樣的強人工智能，情況就完全不同。

    “盤古”，脫胎于原nep大區的“強人工智能研發項目”，一開始必然是人類設計、建造與運營，并長期聽從管理員的號令，從這一角度，可以說，功能強大的“盤古”與尋常人造之物并無區別，

    一切都可以由人類決定。

    但是，與過去一切人類創造之物不同的，是其具有“某種切實存在的自我思維”。

    正是這種思維，賦予了“盤古”與眾不同的強ai特質，不僅可以解決一般計算機系統能解決的問題，

    還能創造性的探索、研究，解決陌生的新問題。

    這種能力，或者說，棲居著這種能力的系統，雖然是人一手打造，在開機、持續運行后，卻已經事實上脫離了人類的掌控，豈但無法更改（除非斷電），就連稍微解析并理解其內部的運作機理，

    都完全是一種癡心妄想。

    這方面，早在西歷十六世紀初，當時的蓋亞凈土相關機構就有過報告。

    當時的“盤古”系統，不論算力、還是預測的“自我意識”深度，都和今日不在一個量級，即便如此，研究者們仍推算，要想切實理解、掌握其一天的工作量，

    哪怕忽略轉移、解析過程，單組織人力去理解，都需要至少十萬人年之巨。


    第(3/3)頁