第(2/3)頁(yè)

    真的需要這些風(fēng)馬牛不相及的東西嗎。

    建立在人工智能內(nèi)核之上的ASA，一旦開(kāi)始運(yùn)行，身為管理員也只能看到若干接口送出的數(shù)據(jù)，對(duì)龐大軟件架構(gòu)內(nèi)部的運(yùn)行情況，即便動(dòng)用能拿到手的最先進(jìn)動(dòng)態(tài)監(jiān)控模塊，面對(duì)規(guī)模超乎想象的狀態(tài)碼、存儲(chǔ)器數(shù)據(jù)和訪問(wèn)日志，方然也只能徒喚奈何。

    想一想也是，倘若這系統(tǒng)正在做的事，居然能被人通過(guò)接口數(shù)據(jù)分析的清楚明白，那他又要這ASA何用呢，干脆自己操縱還更保險(xiǎn)。

    開(kāi)發(fā)軟件，部署人工智能系統(tǒng)，作為AI的創(chuàng)造者、至少也是參與了工作的使用者，卻無(wú)從掌握人工智能體系的具體運(yùn)作，基于過(guò)往的積累，在與ASA打交道的過(guò)程中，方然對(duì)這類系統(tǒng)的黑盒子性質(zhì)有了更直觀、更深刻的理解，也部分理解了為什么一部分計(jì)算機(jī)、人工智能研究者，始終對(duì)AI心懷恐懼。

    人創(chuàng)造出來(lái)的東西，卻未必能被人控制，人工智能，原則上是存在這樣的可能。

    開(kāi)發(fā)人工智能的直接動(dòng)機(jī)，很顯然，倘若不是出于莫須有的“研究意識(shí)”、甚至“百無(wú)聊賴”之類理由，顯然是為了解放人的辛勞，是為了利用人工智能去解決人類難以解決、甚至無(wú)法解決的問(wèn)題，那么從邏輯上講，對(duì)復(fù)雜度越過(guò)某種門檻的AI，運(yùn)作過(guò)程必定不是人能夠完全解析的。

    這種不能夠，并非理論上的做不到，而是解析的時(shí)間會(huì)長(zhǎng)到脫離實(shí)際，根本就不現(xiàn)實(shí)。

    想到這，方然不是在杞人憂天，認(rèn)為人類創(chuàng)造的AI會(huì)脫離控制、自作主張，而是說(shuō)作為人工智能的使用者，對(duì)AI正在做什么，并沒(méi)辦法有很切實(shí)的把握。

    這對(duì)系統(tǒng)開(kāi)發(fā)者來(lái)說(shuō)并不成問(wèn)題，但是對(duì)使用者，則潛藏著這樣的風(fēng)險(xiǎn)：

    對(duì)AI的實(shí)際行為，不管開(kāi)發(fā)者怎樣聲稱、怎樣保證，都沒(méi)辦法驗(yàn)證這些聲稱、保證究竟是真的靠譜，還是完全的欺騙。

    歸而總之，還是此前想到的那一個(gè)難題：

    除非開(kāi)發(fā)者主動(dòng)放棄，否則，對(duì)復(fù)雜度超限的系統(tǒng)，沒(méi)有任何百分之百可靠的手段，可以確保除開(kāi)發(fā)者之外的任何人將其完全掌控。
    第(2/3)頁(yè)