2018-07-24
網(wǎng)絡(luò)巨頭們正以瘋狂速度擴充資料中心規(guī)模,他們正在為資訊科學(xué)寫歷史,但還不清楚這樣的趨勢最后會帶來什么…電子設(shè)計模塊
各家網(wǎng)路巨頭正在進行一場類似要跟上摩爾定律(Moore's Law)的競速,積極打造更大的分散式運算網(wǎng)路;他們正在為資訊科學(xué)寫歷史,但還不清楚這樣的趨勢最后會帶來什么…
舉例來說,F(xiàn)acebook在過去十年就打造了一個包含15個大型資料中心以及數(shù)百邊緣網(wǎng)路站點的全球性網(wǎng)路,負(fù)責(zé)運作服務(wù)數(shù)億用戶、數(shù)以千計的軟體程式,而且每兩個小時就有一次軟體更新。該公司工程與基礎(chǔ)建設(shè)主管Jay Parikh表示:”當(dāng)你正在打造的分散式系統(tǒng)每天會影響數(shù)十億人,真的很酷…也很嚇人。“
Parikhy在該公司首度于美國加州總部舉行的大型分散式軟體系統(tǒng)研討會上,對臺下約200名軟體工程師與來賓表示:“我們處理的所有事情都是分散式系統(tǒng)問題,這在過去的擴展式(scaled)環(huán)境中是從未做過的…包括自己布建海底電纜──都是這個產(chǎn)業(yè)以往不曾處理過的。”
他指出,電腦與網(wǎng)路硬體遭遇的挑戰(zhàn),還有在硬體中執(zhí)行的資料庫與其他軟體”會相互影響,衍生出關(guān)于效率、文化、預(yù)算編列…等等問題,所有事情都會互相連結(jié)。“
這場活動還邀請到了來自亞馬遜云端服務(wù)(Amazon Web Services)、Google、共乘服務(wù)業(yè)者Lyft,以及電商平臺Shopify等公司的程式設(shè)計師,分享最新的技術(shù),以及探討利用包括管理全球性分散式資料庫、系統(tǒng)除錯,還有如何在系統(tǒng)中斷時加速復(fù)原等議題。
Facebook討論了兩項開放源碼分散式軟體系統(tǒng)工作的進展,一是能快速將配置變化推送到數(shù)以百萬計伺服器的架構(gòu),另一項是處理作業(yè)系統(tǒng)使用者空間中記憶體失序問題的程式。
它們是Facebook為了支援旗下四大被廣泛使用之應(yīng)用程式──News Feed、Instagram、Messenger與WhatsApp──以及使用者族群規(guī)模較小的Oculus軟體,所打造之廣大云端運算軟體平臺的一部分。
Facebook一直在慢慢將網(wǎng)路架構(gòu)中的現(xiàn)成商用軟硬體以自家開發(fā)的軟體或硬體方案來取代,并將之轉(zhuǎn)為開放源碼;舉例來說,在過去幾年,該公司將現(xiàn)成的資料庫(MySQL)、儲存(Memcached)程式與網(wǎng)路服務(wù)語言(PHP),以自家開發(fā)的程式碼取代,并釋出為開放源碼。
在總部舉行的這場Systems@Scale活動,也是為了要讓Facebook的軟體工程師能與其他公司的同業(yè)相互交流,目標(biāo)是加速為他們面臨之分散式系統(tǒng)挑戰(zhàn)尋找通用解決方案的腳步。
在硬體方面,F(xiàn)acebook現(xiàn)在一般都是使用以現(xiàn)成晶片、采用自家規(guī)格打造的伺服器與交換機,而非來自供應(yīng)商的商用系統(tǒng)。有業(yè)界消息指出,F(xiàn)acebook從今年春天起就一直在招募半導(dǎo)體工程師;該公司發(fā)言人婉拒對此發(fā)表評論,僅透露可能會在9月舉辦的一場活動中討論到關(guān)于晶片開發(fā)的計畫。
Facebook的系統(tǒng)硬體規(guī)格通常透過2011年成立的Open Compute Project釋出開放源碼,該公司是否也會在未來將自己設(shè)計的晶片規(guī)格開放,還有待觀察。
Facebook在全球有15座大型資料中心,但其實比起Amazon截至2017年在全球的18個據(jù)點仍相形見絀;Amazon的據(jù)點各有數(shù)量不一的資料中心(黃圈中的數(shù)字)
(來源:“Computer Architecture: A Quantitative Approach,” Hennessy/Patterson)
另一個更大的問題是,F(xiàn)acebook與其競爭對手要以瘋狂的速度將運算世界的未來帶向何方,還有他們可能遭遇的瓶頸為何?
某些美國的立法者認(rèn)為,F(xiàn)acebook因為在上一次總統(tǒng)大選讓外來者利用其自動化系統(tǒng)影響了數(shù)以百萬計的選民,已經(jīng)觸及了政治上的一道障礙;也有人說他們是在玩弄消費者,那些無辜使用者開心分享的每一項資料都被販?zhǔn)?,但是到目前為止幾乎不受政府監(jiān)督。
在技術(shù)上,這家網(wǎng)路巨頭多年來推動速度更快的銅纜與光學(xué)網(wǎng)路,他們同時需要這兩種技術(shù)來資料中心內(nèi)連結(jié)數(shù)量更龐大的伺服器以及資料中心本身。
多年來,網(wǎng)路工程師在催生Terabit/sec等級網(wǎng)路的行動上一直有所延遲,Terabit/sec網(wǎng)路的速度超越其他商用需求,在某些程度上什至超越了摩爾定律或物理定律的極限。無論Facebook等公司不斷擴大資料中心規(guī)模的趨勢將會帶來什么結(jié)果,顯然我們會很快看到。
未來的場景就如同Parikh所言,會“很酷也很嚇人”;網(wǎng)路巨頭們正在以前所未見的速度打造、擴充大型自動化系統(tǒng),數(shù)以百億計的消費者與成千上萬的企業(yè),則正在大量吞噬他們運作的各種服務(wù)。他表示:”讓我振作的第一大動力,就是在穩(wěn)定的基礎(chǔ)建設(shè)上快速行動。“