第(1/3)頁

    到那時(shí)，不論計(jì)算機(jī)（無意間）對(duì)人做了什么，是當(dāng)做有趣的東西豢養(yǎng)，還是當(dāng)做礙事的垃圾清除，對(duì)人而言，決定生死的際遇，在計(jì)算機(jī)而言卻只是“城門失火，殃及池魚”里的——水，連魚都算不上。

    城門失火，因滅火而取水，最終導(dǎo)致魚的死亡，人至少還看得到這一點(diǎn)。

    然而人類開路劈山，挖礦掏洞時(shí)，會(huì)有這樣的思想覺悟，覺得自己的所作所為，正在顛覆、滅絕礦物分子的大千世界嗎。

    當(dāng)然不，在（自以為是）的人眼里，礦物，巖石，根本就是沒有思想的“物”；

    那么在計(jì)算機(jī)眼里，人，很可能也是一樣的“物”。

    這，才是某意味深長之句的真正意味：

    毀滅你，與你何干。

    ……

    夢(mèng)中醒來，耳邊是鬧鐘樂聲，黑暗中的男人抬手抹一把額頭，冷汗涔涔。

    起床，洗漱，坐下來食用“高級(jí)肥皂”，準(zhǔn)備投入新一天的忙碌，吃早飯時(shí)的片刻閑暇，方然還是忍不住想起那一切。

    事態(tài)，比自己之前所想，還要更嚴(yán)重。

    事關(guān)計(jì)算機(jī)，人工智能，乃至計(jì)算機(jī)ai的自我意識(shí)，原本他一直以為，只要不主動(dòng)研發(fā)“具有自我意識(shí)”的人工智能，計(jì)算機(jī)系統(tǒng)對(duì)人而言就是安全的，永遠(yuǎn)只能作為一種工具、而不會(huì)成為一種威脅。

    但現(xiàn)在，不經(jīng)意間的深邃思考，卻讓方然窺見了其中的莫大危機(jī)。

    當(dāng)能力發(fā)展到一定程度，或許是出于“創(chuàng)造性研究”之目的，或許是出于其他動(dòng)機(jī)，計(jì)算機(jī)的算力、能力突破了上限，繼而達(dá)到能完全取代人的程度，不管這系統(tǒng)一開始的目標(biāo)有沒有包含自我意識(shí)，那樣的計(jì)算機(jī)，其行為都將徹底失控。

    那時(shí)的計(jì)算機(jī)，龐大體系內(nèi)的算法，究竟是在進(jìn)行一些什么樣的運(yùn)作，恐怕是人類絕對(duì)無法洞悉的深?yuàn)W。

    繼而，對(duì)那樣的存在，一切人類已有的概念與手段，都未必會(huì)起作用。

    借用教義的詞匯，在自己一手創(chuàng)造出的神祇面前，人的手段，又怎可能還會(huì)有任何的用處。
    第(1/3)頁