第(2/3)頁

    只因到那時，那樣的計算機系統，將會是蓋亞表面的一種前所未有之存在，是生命演化鏈條被人為截斷之后，藉由完全不同之另一條路線而誕生的，更高等、更先進、更強大的新物種，演化天梯上比人更高一階的存在。

    面對那存在，人類對抗計算機，恰如猴對抗人類，又哪會有一絲一毫的勝算。

    危險，莫大的危險，潛藏在計算機的發展脈絡之中。

    并非第一次接觸這樣的斷言，此時此刻，置身于天堂鎮的地下世界，恒溫恒濕的房間里，方然卻有點渾身發冷，很不舒服。

    他頭一次意識到，若干年前流傳于聯邦、乃至世界的那些警示，確有意義。

    雖然在自己看來，危機的實質，與發出警訊的諸多名人所言并不盡一致，但指向的最終結局卻大同小異：

    人類的滅亡。

    警訊，關于計算機、ai的警訊，曾在人類世界廣為流傳，也引發過巨大爭議。

    包括聯邦it巨頭microsoft總裁比爾*蓋茨在內，許多業界精英人物都曾在不同場合表達過對人工智能的憂慮，提醒世人要謹慎面對人工智能。

    這些警訊，自然引發了業界熱議，甚至在全世界范圍內引起了一系列經久不衰的討論。

    但這一切警示與熱議，在方然看來，卻太膚淺，并未觸及問題的實質。

    圍繞人工智能的“自我意識”，危機感，是很容易產生，而正如他此前的一段思考那樣，真正的威脅并不是所謂“自我意識”，而是當計算機算力、能力強大到一定程度，承擔的任務越來越復雜、越來越需要創造性的時候，就必然會出現。

    只要追尋能力越來越強大的計算機系統，這一威脅，遲早都會在蓋亞降臨。

    而與人類是否警惕，是否開發“有自我意識的ai”毫無關系。

    這一認識，是如此的深刻，在西歷1489年的這一個早晨，方然頓悟到了關鍵。

    要防備計算機、ai，僅僅是拒絕研發“計算機的自我意識”還不夠，或者說，這做法并未抓住問題的關鍵。

    避免危機的關鍵，在于“適度”，在于永遠不要企圖用計算機去取代人的一切。
    第(2/3)頁