第(2/3)頁

    顯然，前者會比后者容易非常多，前者只需要在不同卡上復制這些模型，分別讀取數據做運算就好。

    而后者則需要根據不同的情況和設置拆分合并，一個不小心就會搞錯。

    看了下谷歌大腦的服務器，里面有好幾批2013款的GTX泰坦，這東西著實價值不菲。

    考慮到當時的其他產品，6G的顯存還是鶴立雞群的。

    比起孟繁岐自己重金購置的4G旗艦款，多出的2G顯存，足夠做很多其他的事情了。

    用速度換顯存，孟繁岐又做了許多參數和信息在Cpu和Gpu上反復轉移的操作。

    因為在正式入職之前，谷歌大腦分配給他的顯卡就已經有16張泰坦，這部分卡撥給孟繁岐獨享，隨時都可以使用。

    除此之外，還有32張在不同節點上的Gpu可以申請占用。

    “這時候的谷歌顯卡還沒有那么多，這個配置已經相當大方了?！?

    不僅有統一配置的系統和環境，還有提供好的多卡并行方式和例子。

    再過兩年，幾千張上萬張TPU都是標配。

    孟繁岐如果想要將AI接入搜索系統，有三個主要的方向。

    一是通過拆分關鍵詞，通過語言模型來獲取其在現實世界的含義，從而對結果進行更好的排名。

    二是通過擴大模型的規模，使得它具備一定的寬泛理解能力，從而擴大能夠搜索的內容量。

    三則是讓搜索引擎更能夠理解不同語言順序會如何改變查詢的意圖。

    其中二目前比較難辦，一和三孟繁岐的把握很大。

    傳統的RNN和LSTM的循環方式，就導致了在較長語句上比較難處理得當，對順序的變化理解也沒有那么充分。

    孟繁岐的雛形T方法，在這方面具有得天獨厚的優勢。

    除此之外，T方法雖然在小數據上難以學到東西，各個參數也很難微調，總體的訓練難度大。

    但這在孟繁岐這個老煉丹師面前，不是什么難事，配合谷歌早已備好的海量數據，孟繁岐對這個方法的效果還是很有信心的。
    第(2/3)頁