多核多执行绪微处理器的协同虚拟机级排程2012-11-04谢政宏.ppt

Hsieh, Cheng Hung 多核多執行緒微處理器的協同虛擬機級排程 2012-11-04 謝政宏 大綱 多核多執行緒微處理器 虛擬化技術 虛擬化的實現 虛擬機、系統級虛擬化 虛擬化目標與優缺點 虛擬機級資源排程 處理器級資源排程 應用程序的資源需求模型 多核多執行緒微處理器的協同虛擬機級排程 協同虛擬機排程 處理器競爭感知的虛擬機級排程 軟體協助的處理器級排程 結論 多核多執行緒微處理器 (1/3) 在著名的摩爾定律(圖1)下，在過去的幾十年來單一個晶片上的電晶體數量迅速地增加。但這個壓力現在則是落到了處理器的平行性。因此，多核心架構被採用用來探索任務層級平行。 多核多執行緒的微處理器(MMMPs)被認為是計算能力快速增長的計算系統的新模範。 此外，多執行緒架構內的平行性也被大量的開發。特別是在SMT的體系結構中，水平與垂直的浪費被最小化。 多核多執行緒微處理器 (2/3) 多核多執行緒 微處理器 (3/3) 虛擬化技術 (1/3) 虛擬化的實現 (1/2) 虛擬化主要有兩種方式實現： 主機虛擬化：通常被實現在主機作業系統的頂部上。 裸機虛擬化：則是直接在硬體使用一個管理程序層。 主機虛擬化： 虛擬化是一種提供了許多好處的技術，例如隱藏硬體複雜性或創建不同硬體映像，使得使用者得已或安裝不同的系統且互相隔離。主機虛擬化技術的一個缺點是，引入硬體與作業系統間的中間層，導致性能上的損失。 裸機虛擬化： 裸機虛擬化提供了一些有趣的功能，例如除了提供記憶體管理和CPU排程、讓客端作業系統如統直接運行在硬體上，且也大大降少了轉譯的間接成本。 管理程序(hypervisor)是一個軟體層更像是一個修改的Linux內核，它直接運行在系統的硬體上，因此它像是更換作業系統，讓我們能夠同時運行多個作業系統，似乎他們沒有中間層而有著自己的硬體。 觀察結果顯示，不同應用程式的不同特性將會使其所執行的虛擬機(VM)以及虛擬化方法造成重大的影響。 主機虛擬化的性能損失大約在10%~37%範圍之間，裸機虛擬化則是在1%~3%之間。 虛擬化技術 (1/3) 虛擬化的實現 (2/2) 虛擬化技術 (2/3) 虛擬機、系統級虛擬化 (1/2) 虛擬機(VM)是一個功能強大並用於應用程序和資源配置的抽象層，這個項目中的系統級虛擬機會被認為是微系統層級的虛擬機，其虛擬化了整個實體主機的資源，包括CPU、記憶體、I/O設備，然後呈現虛擬資源給客端操作系統和應用程序。 系統虛擬化是通過一個軟體層，稱為虛擬機監視器(VMM，也稱為虛擬機管理程序)用來多工物理資源給虛擬機。 1) 全虛擬化的虛擬機：提供相同的硬體介面的實體機給客端作業系統，並可支援未經修改的作業系統。 2) 半虛擬化的虛擬機：提供優化後的介面，降低了虛擬化的開銷，但需要修改客端作業系統。 3) 除此之外，虛擬化的硬體支援也出現在新的處理器中，可以用於VMM來進一步提高虛擬機的效率。 虛擬化技術 (2/3) 虛擬機、系統級虛擬化 (2/2) 虛擬化技術 (3/3) 虛擬化目標與優缺點 在傳統上，用來將實體機器分割為不同域的虛擬化技術的使用目的有以下三點： 1) 允許在相同的機器上安裝不同的作業系統。 2) 允許在不同領域上登入的使用者彼此互相隔離。 3) 藉由提供更多的虛擬處理器而非單一的實體處理器，來增進整體系統的利用度。 儘管如此，這些好處會造成性能上的代價。因為很明顯的，在硬體層級與應用層級間加入了中間一層，會導致些許的性能衰退。 由於效能上的因素，在大型電腦主機世代後的產品，例如個人電腦等，虛擬化技術在小型系統中並不受歡迎。但在最近科技的趨勢，虛擬化風氣又再度展開。因為被設計來大量使用的大型數據中心系統的平均使用率過低。 虛擬機級資源排程  虛擬級資源排程根據虛擬機的要求動態地分配的共享實體機的資源，包括CPU週期、記憶體容量、I/O頻寬到目前虛擬機。 隨著虛擬化技術的使用，可以實現不同的應用程序但同一時間上運行在相同的多核心之間的隔離。這種隔離裝置代表有可能將多核心分裂成不同的性能域，在這種域內運行的應用程序可以獲得該域所有的資源。 相關的優點像是在該域上執行的應用程序的效能與其他域中的其它應用程式間是隔離的，因此相較於在本機系統上執行減少了干擾。 處理器級資源排程 為了達到最佳的執行緒間的資源分配來使得性能改善，處理器級的資源排程對於多執行緒處理器是非常重要的。 處理器級排程策略，例如有： 1) 根據執行緒在前端階段的指令數量來決定下一個被抓取的指令。 2) 使用指令和快取失誤率來作為指標，來動態分配執行緒的資源。 3) 根據執行緒的行為變化來動態地分配管道資源。 4) 混合不同記憶體存取(CPImem)的執行緒，並排程到多執行緒處理器上以減少快取命