當今的數據中心吃飽了，浪費了大量的能源，以最快的速度響應用戶的請求，而延威力彩開獎號碼遲只有幾微秒。麻省理工學院研究人員開發的新系統通過在中央處理單元（CPU）內核之間更好地分配對時間敏感的數據處理，並確保硬件高效運行，從而提高了高速操作的效率。
數據中心作為分佈式網絡運行，在單個服務器上實現了眾多Web和移動應用程序。當用戶向應用程序發送請求時，存儲的數據會從數以千計的服務器中的數百或數千個服務中提取。在發送響應之前，應用程序必須等待最慢的服務來處理數據。該滯後時間稱為尾部等待時間。
當前減少尾部等待時間的方法使服務器中的大量CPU內核保持開放狀態，以快速處理傳入的請求。但是，這意味著內核在很多時間都處於空閒狀態，而服務器繼續消耗能量只是為了保持開機狀態。數據中心可以包含成千上萬台服務器，因此，即使對每台服務器的效率進行很小的改進也可以節省數百萬美元。
或者，某些系統會根據工作負載在應用程序之間重新分配核心。但這需要幾毫秒的時間-大約是當今快節奏請求所需速度的千分之一。等待時間過長也會降低應用程序的性能，因為在分配的時間之前未處理的任何信息都不會發送給用戶。
在USENIX網絡系統設計和實施會議上發表的一篇論文中，研究人員開發了一種更快的核心分配系統，稱為Shenango，該系統可以減少尾部延遲，同時實現高效率。首先，一種新穎的算法可以檢測哪些應用程序正在努力處理數據。然後，軟件組件分配空閒的核心以處理應用程序的工作負載。
“在數據中心，效率和延遲之間需要權衡取捨，實際上，您需要以比每毫秒更精細的粒度重新分配內核，”計算機科學和人工智能實驗室（CSAIL）的博士學位學生第一作者艾米·奧斯特豪特（Amy Ousterhout）說。 Shenango讓服務器“管理在非常短的時間範圍內發生的操作並高效地進行。”
能源和成本節省因數據中心而異，具體取決於大小和工作負載。但是總體目標是提高數據中心的CPU利用率，以便充分利用每個內核。目前，最佳的CPU利用率約為60％，但研究人員表示，他們的系統可能會將這一數字提高到100％。
“當今的數據中心利用率非常低，”電子工程和計算機科學助理教授，CSAIL研究人員亞當·貝萊（Adam Belay）說。 “這是一個非常嚴重的問題，無法在數據中心的一個地方解決。但是該系統是提高利用率的關鍵因素。”
紙上加入Ousterhout和Belay的是電氣工程和計算機科學系的富士通講座教授Hari Balakrishnan，以及CSAIL博士生Jonathan Behrens和Joshua Fried。
高效的擁塞檢測
在實際的數據中心中，Shenango（算法和軟件）將在數據中心的每台服務器上運行。所有服務器都將能夠相互通信。
該系統的第一個創線上 捕 魚 機新是一種新穎的擁塞檢測算法。該算法每五微秒檢查一次排隊等待處理的數據包。如果最後一次觀察仍在等待數據包，該算法會指出至少有5微秒的延遲。它還檢查是否有任何稱為線程的計算過程新球網娛樂城s，正在等待執行。如果是這樣，則係統認為該應用程序“擁塞”。
看起來很簡單。但是隊列的結構對於實現微秒級的擁塞檢測很重要。傳統思維意味著讓軟件檢查每個排隊的數據包的時間戳，這將花費太多時間。
研究人員以稱為“環形緩衝區”的有效結構實現隊列。這些結構可以顯示為環周圍的不同插槽。第一個輸入的數據包進入起始時隙。隨著新數據的到來，它們將被放入環中的後續插槽中。通常，這些結構用於先進先出數據處理，從台灣娛樂城e開始的插槽並朝著結束的插槽工作。
但是，研究人員的系統只會在結構中短暫存儲數據包，直到應用程序可以處理它們為止。同時，存儲的數據包可用於擁塞c九州娛樂城。該算法只需要比較隊列中的兩個點（第一個數據包的位置和最後一個數據包在5微秒前的位置），即可確定數據包是否遇到延遲。
“ Y94大發網-娛樂城推薦您可以查看這兩點，並每五微秒跟踪一次它們的進度，以查看處理了多少數據。”弗里德說。因為結構很簡單，所以“每個核心只需執行一次。如果您要查看24個內核，則可以在5微秒內進行24次檢查，擴展性很好。”
智能分配
第二項創新稱為IOKernel，真錢麻將app它是將數據包引導到適當應用程序的中央軟件中心。 IOKernel還使用擁塞檢測算法，以比傳統方法更快的速度將內核快速分配給擁塞的應用程序。
例如，IOKernel可能會看到需要微秒處理速度的某個應用程序的傳入數據包。如果由於缺少內核而使應用程序擁塞，則IOKernel會立即將空閒的內核分配給該應用程序。如果它還發現另一個應用程序運行的內核對時間的敏感度較低，則它將獲取其中一些內核並將其重新分配給擁塞的應用程序。這些應用程序本身也可以提供幫助：如果某個應用程序不處理數據，它會向IOKernel發出警報，告知其內核可以重新分配。處理後的數據返回IOKernel以發送響應。
Behrens說：“ IOKernel專注於哪些應用程序需要沒有內核的內核。” “它試圖找出誰過載了，需要更多的內核，並儘快為其提供內核，這樣它們就不會落後並具有巨大的延遲。”
Belay說：“ IOKernel，算法，應用程序和服務器硬件之間的緊密通信是“數據中心中唯一的”，並使Shenango能夠無縫運行。Belay說：“該系統具有全局可見性，可了解每台服務器中發生的事情。它可以看到提供數據包的硬件，每個內核中正在運行的內容以及每個應用程序的繁忙程度。它做到了微秒級。”
接下來，研究人員正在完善Shenango，以實現實際的數據中心實施。為此，他們確保該軟件可以處理非常高的數據吞吐量並具有適當的安全功能。
“提供低延遲的網絡服務對於許多互聯網應用至關重要。不幸的是，減少延遲非常具有挑戰性，尤其是在多個應用程序爭奪共享計算資源時，”電子學副教授KyoungSoo Park說帝禾娛樂城韓國高級科學技術學院的工程學士。 “ Shenango打破了傳統的觀念，即不可能在非常高的請求負載下以可變的響應時間維持低延遲，而它開闢了一個新的系統設計空間，可通過實際的網絡應用實現微秒級的尾部延遲。”
本文已從麻省理工學院提供的材料中重新發布。注意：材料的長度和內容可能已被編輯。有關更多信息，請聯繫引用的來源。
參考：Austerhout，J。Fried，J。Behrens，J。Belay，H。和Balakrishnan，（未註明）。 Shenango：實現對延遲敏感的數據中心工作負載的高CPU效率，18。
