引言

　　多內(nèi)核處理器給編程人員帶來了新的挑戰(zhàn)。在多內(nèi)核項(xiàng)目中，半數(shù)以上的成本來自軟件開發(fā)。多內(nèi)核編程的具體挑戰(zhàn)是非對(duì)稱多內(nèi)核處理器 （AMP），因?yàn)槠渲邢嗤钠骷旭v留著 RISC與DSP內(nèi)核等不同類型的處理單元。這主要是因?yàn)椴僮飨到y(tǒng) （OS） 對(duì)資源管理與負(fù)載均衡的支持非常薄弱甚至根本沒有，導(dǎo)致可擴(kuò)展性差與資源利用率低。德州儀器 （TI） 創(chuàng)新型KeyStone II多內(nèi)核架構(gòu)提供專用硬件幫助實(shí)現(xiàn)調(diào)度與負(fù)載均衡功能，可簡化多內(nèi)核可編程性。KeyStone II通過這些措施實(shí)現(xiàn)了多內(nèi)核編程的性能突破。

　　AMP編程挑戰(zhàn)

　　隨著多內(nèi)核技術(shù)的演進(jìn)，越來越多的SoC提供對(duì)稱多內(nèi)核架構(gòu)實(shí)現(xiàn)低成本以及更高的性能。典型的AMP具有運(yùn)行在不同操作系統(tǒng)上的異構(gòu)內(nèi)核、硬件加速器以及非所有內(nèi)核共享的分布式存儲(chǔ)器。在對(duì)稱多內(nèi)核處理器（SMP）應(yīng)用中，內(nèi)核完全相同并運(yùn)行支持相同共享存儲(chǔ)器架構(gòu)的相同操作系統(tǒng)，因此使用操作系統(tǒng)帶來的內(nèi)核間通信、調(diào)度以及負(fù)載均衡功能相對(duì)而言更為直接。AMP器件的編程需要更高的并行編程技能，才能通過控制和協(xié)調(diào)不同的內(nèi)核及操作系統(tǒng)實(shí)現(xiàn)可滿足單內(nèi)核或SMP編程需求的高穩(wěn)定性及高性能。

　　傳統(tǒng)非對(duì)稱多內(nèi)核處理要求在編譯時(shí)對(duì)多內(nèi)核資源進(jìn)行靜態(tài)分區(qū)。這樣做難度往往較大，因?yàn)檫\(yùn)行時(shí)的軟件加載不能提前判別，尤其是4G LTE、LTE Advanced以及云計(jì)算等技術(shù)。一般解決辦法是預(yù)留額外的空間，以確保系統(tǒng)在惡劣應(yīng)用條件下也能正確運(yùn)行。資源過度分配的不利影響是資源利用不足，終會(huì)導(dǎo)致產(chǎn)品成本上升。另一方面，首次使用時(shí)或者引入新功能、需要現(xiàn)場強(qiáng)化或需求改更時(shí)，手動(dòng)重新分區(qū)及軟件優(yōu)化會(huì)帶來大量的軟件工作。

　　同步性及處理器間通信（IPC）的效率在多內(nèi)核編程過程中至關(guān)重要。缺乏對(duì)各種同步性與IPC機(jī)制的適當(dāng)硬件支持，會(huì)因過多的軟件開銷而導(dǎo)致多內(nèi)核利用低下，降低系統(tǒng)性能。

　　這對(duì)AMP多內(nèi)核系統(tǒng)而言尤為如此，因?yàn)殡y以實(shí)現(xiàn)軟件可擴(kuò)展性與靈活性。

　　多內(nèi)核導(dǎo)航器助力實(shí)現(xiàn)創(chuàng)新

　　多內(nèi)核導(dǎo)航器是一種基于數(shù)據(jù)包的創(chuàng)新基礎(chǔ)設(shè)施，支持?jǐn)?shù)據(jù)傳輸與多內(nèi)核控制。TI異構(gòu)KeyStone架構(gòu)完美整合了DSP Core-Pac、ARM CorePac、硬件 AccelerationPac以及I/O外設(shè)。它們不但可通過TeraNet進(jìn)行物理互連，而且可通過多內(nèi)核導(dǎo)航器進(jìn)行邏輯互連。在TI KeyStone II架構(gòu)中，多內(nèi)核導(dǎo)航器不但包含可容納1.6萬個(gè)硬件隊(duì)列的隊(duì)列管理器，通常存放指向各種數(shù)據(jù)包（由描述符及數(shù)據(jù)有效負(fù)載組成）的指針，而且還包含8個(gè)3,200 MIPS uRISC、用于傳輸數(shù)據(jù)的數(shù)據(jù)包DMA以及支持100萬個(gè)描述符的硬件數(shù)據(jù)結(jié)構(gòu)。此外，還可在AccelerationPac與I/O子系統(tǒng)中構(gòu)建數(shù)據(jù)包DMA,這樣多內(nèi)核導(dǎo)航器無需內(nèi)核干預(yù)，便可將數(shù)據(jù)從任何單元傳輸至任何端點(diǎn)。

　　多內(nèi)核導(dǎo)航器為CorePac、AccelerationPac以及I/O提供統(tǒng)一接口，可將硬件隊(duì)列用于圖1所示的不同系統(tǒng)端點(diǎn)。這可為所有IP塊提供支持通用通信方式的AMP系統(tǒng)。多內(nèi)核導(dǎo)航器可充分利用內(nèi)建在隊(duì)列管理器中的uRISC內(nèi)核來管理流量路由、IPC、資源管理、調(diào)度以及負(fù)載均衡，從而可優(yōu)化和加速數(shù)據(jù)流。各種任務(wù)可由隊(duì)列管理器按需派送和分配給負(fù)載輕的內(nèi)核或IP子系統(tǒng)。

圖1:多內(nèi)核導(dǎo)航器子系統(tǒng)

　　多內(nèi)核導(dǎo)航器可提供高效率內(nèi)核間通信機(jī)制。硬件隊(duì)列與數(shù)據(jù)包DMA是IPC的基本構(gòu)建塊。某些隊(duì)列經(jīng)過精心設(shè)計(jì)，可對(duì)IPC內(nèi)核產(chǎn)生中斷。多內(nèi)核導(dǎo)航器內(nèi)部的uRISC內(nèi)核使用可編程中斷通知功能實(shí)現(xiàn)自動(dòng)隊(duì)列監(jiān)控與管理。多內(nèi)核導(dǎo)航器可充分限制軟件開銷，降低同步時(shí)延，并可提高IPC吞吐量。此外，它還支持無鎖編程模型。圖2是使用多內(nèi)核導(dǎo)航器的IPC示意圖。

圖2:使用多內(nèi)核導(dǎo)航器實(shí)現(xiàn)處理器間的通信

　　雖然采用TI KeyStone II硅芯片架構(gòu)已經(jīng)解決了多內(nèi)核挑戰(zhàn)，但只有應(yīng)用軟件開發(fā)人員充分發(fā)揮多內(nèi)核性能，才能真正實(shí)現(xiàn)這種硬件架構(gòu)的各種優(yōu)勢。在軟件方面，TI正在投資標(biāo)準(zhǔn)編程方法，讓支持多內(nèi)核導(dǎo)航器的 KeyStone II 的各項(xiàng)優(yōu)勢充分體現(xiàn)在應(yīng)用中。行業(yè)中及學(xué)術(shù)界已經(jīng)涌現(xiàn)出大量有望成為標(biāo)準(zhǔn)的多內(nèi)核編程趨勢。所有這些方法的共同之處在于應(yīng)用軟件開發(fā)人員先通過語言表達(dá)，采用特定手段描述其應(yīng)用的并行性，然后再映射至底層運(yùn)行時(shí)。該運(yùn)行時(shí)可掌控將過程映射至底層硬件架構(gòu)。

　　Navigator Runtime是一個(gè)可擴(kuò)展薄軟件層，可幫助多內(nèi)核導(dǎo)航器實(shí)現(xiàn)更高水平的并行編程性能，提高可擴(kuò)展性、移植性及效率。對(duì)AMP編程挑戰(zhàn)而言，多內(nèi)核導(dǎo)航器和Navigator Runtime的完美結(jié)合是一款功能強(qiáng)大的獨(dú)特解決方案。

　　Navigator Runtime的主要功能是將工作任務(wù)分配給多個(gè)內(nèi)核。先將工作任務(wù)放入待執(zhí)行的虛擬隊(duì)列，然后由嵌入在多內(nèi)核導(dǎo)航器硬件中的uRISC內(nèi)核執(zhí)行中央調(diào)度。調(diào)度器根據(jù)優(yōu)先級(jí)、原子性以及本地性選擇工作任務(wù)，然后分配給軟件分配器。軟件分配器是駐留在每一個(gè)內(nèi)核中的 Navigator Runtime 的必備部件。分配器隨即將每項(xiàng)工作任務(wù)發(fā)送至處理元件執(zhí)行，處理元件可能是內(nèi)核、AccelerationPac或I/O端點(diǎn)中的線程。

　　充分發(fā)揮多內(nèi)核導(dǎo)航器的作用，工作任務(wù)制定者及使用者的抽象可由Navigator Runtime完成。將嵌入式uRISC內(nèi)核用于集中調(diào)度工作（無需消耗主DSP或ARM內(nèi)核的MIPS），可實(shí)現(xiàn)低開銷、低時(shí)延以及每個(gè)內(nèi)核25萬個(gè)任務(wù)的高吞吐量，實(shí)現(xiàn)無與倫比的并行編程性能。

　　圖3主要展示Navigator Runtime概念及其與多內(nèi)核導(dǎo)航器的互動(dòng)。

圖3:Navigator Runtime與多內(nèi)核導(dǎo)航器的互動(dòng)

　　多內(nèi)核性能可使用加速性進(jìn)行測量，加速性的定義是用單內(nèi)核串行執(zhí)行時(shí)間除以多內(nèi)核執(zhí)行時(shí)間。在理想條件下，8內(nèi)核系統(tǒng)的加速性等于8.但在實(shí)際中，由于多內(nèi)核總線判優(yōu)、存儲(chǔ)器訪問時(shí)延、高速緩存一致性管理、同步以及IPC等多內(nèi)核開銷的影響，典型加速性與理想條件相距甚遠(yuǎn)。Navigator Runtime消耗的開銷極少，以盡量接近理想加速性，實(shí)現(xiàn)多內(nèi)核性能的化。

　　以LTE上行鏈路物理層處理為例，串行代碼可細(xì)分為1,024個(gè)工作任務(wù)用于實(shí)現(xiàn)天線數(shù)據(jù)處理、通道估算以及均衡等。平均每個(gè)工作任務(wù)有4K輸入數(shù)據(jù)及2K輸出數(shù)據(jù)駐留在共享存儲(chǔ)器中。Navigator Runtime將用于調(diào)度這些工作任務(wù)并分配給8個(gè)不同的內(nèi)核，故加速性的計(jì)算如下：

　　8內(nèi)核加速性 = 采用本地L2存儲(chǔ)器中的數(shù)據(jù)單內(nèi)核串行執(zhí)行代碼的時(shí)間 ÷ 采用共享DDR3存儲(chǔ)器中的數(shù)據(jù)8內(nèi)核并行執(zhí)行的時(shí)間

　　在并行8內(nèi)核執(zhí)行示例中，在處理前可分配多個(gè)導(dǎo)航器數(shù)據(jù)包DMA通道將DDR3中的數(shù)據(jù)預(yù)加載到本地L2存儲(chǔ)器中，并在處理后將數(shù)據(jù)從L2返回至DDR3,就像為降低存儲(chǔ)器訪問時(shí)延的 CPU高速緩存運(yùn)行一樣。結(jié)果所測得的KeyStone器件的加速性為：在3.2萬個(gè)周期的工作任務(wù)中，從8內(nèi)核KeyStone器件中測得的基準(zhǔn)數(shù)據(jù)可實(shí)現(xiàn)7.8的加速性，而在1.6萬個(gè)周期的工作任務(wù)中，其則可實(shí)現(xiàn)7.7的加速性，非常接近理想的8加速性。與KeyStone I相比，KeyStone II中的導(dǎo)航器已得到了明顯的改進(jìn)：4倍uRISC引擎數(shù)量可實(shí)現(xiàn)更多的調(diào)度資源，而數(shù)據(jù)包DMA通道、硬件隊(duì)列以及描述符數(shù)量翻番，則可提高執(zhí)行吞吐量。

　　圖4為KeyStone Navigator Runtime在各種工作任務(wù)量情況下，2至8內(nèi)核的實(shí)際加速性與理想加速性的比較。

圖4:采用Navigator Runtime實(shí)現(xiàn)的多內(nèi)核加速性

　　此外，TI KeyStone II架構(gòu)還可為所有異構(gòu)內(nèi)核提供6MB的片上共享存儲(chǔ)器（MSMC 存儲(chǔ)器）容量。MSMC的存儲(chǔ)器訪問性能非常接近L2存儲(chǔ)器訪問性能。當(dāng)數(shù)據(jù)存儲(chǔ)在MSMC中時(shí)，無需使用導(dǎo)航器預(yù)加載和后存儲(chǔ)數(shù)據(jù)，便可實(shí)現(xiàn)與上面情況類似的加速性。與其它可選解決方案相比，大型片上共享存儲(chǔ)器可利用低系統(tǒng)時(shí)延為多內(nèi)核性能帶來獨(dú)特的優(yōu)勢。

　　Navigator Runtime不但可支持各種系統(tǒng)應(yīng)用，而且還能夠與OpenMp等多內(nèi)核編程范式集成。

　　OpenMP是一款支持多平臺(tái)共享存儲(chǔ)器多處理編程的應(yīng)用編程接口（API），由編輯器指令、運(yùn)行時(shí)庫程序以及環(huán)境變量構(gòu)成。在OpenMP中，用戶可使用語言指令（例如編譯器指令）來識(shí)別其軟件中的并行性，也可使用工具幫助識(shí)別。使用兼容OpenMP的編譯器可讀取編譯指令，其可將編譯指令所注釋的串行代碼轉(zhuǎn)換成并行代碼，并在OpenMP運(yùn)行時(shí)中插入調(diào)用。對(duì)在特定器件上運(yùn)行的應(yīng)用而言，多內(nèi)核編程方法的運(yùn)行時(shí)時(shí)延及開銷性能將會(huì)限制可實(shí)現(xiàn)的并行性。更低的時(shí)延與開銷可在應(yīng)用中實(shí)現(xiàn)并行化創(chuàng)造更好的條件，進(jìn)而實(shí)現(xiàn)更高的多內(nèi)核效率。

　　開始已經(jīng)為共享存儲(chǔ)器架構(gòu)指定了OpenMP.我們現(xiàn)在討論分布式存儲(chǔ)器及異構(gòu)處理器架構(gòu)支持。TI Navigator Runtime可用作OpenMP的運(yùn)行時(shí)系統(tǒng)。多內(nèi)核同步與IPC可使用導(dǎo)航器中的數(shù)據(jù)包DMA引擎有效處理。前面的基準(zhǔn)顯示，將Navigator Runtime用作OpenMP運(yùn)行時(shí)不但可顯著降低編譯器指令的構(gòu)建開銷，而且還可顯著提升多內(nèi)核系統(tǒng)內(nèi)的并行性，讓編程人員專注于識(shí)別并行任務(wù)。調(diào)度及負(fù)載均衡由Navigator Runtime自動(dòng)管理，不但可簡化編程，而且還可限度地提高多內(nèi)核效率。

　　下圖5顯示的是使用Navigator Runtime與OpenMP的KeyStone AMP編程流程。隨同Code Composer Studio集成開發(fā)環(huán)境提供的Code Gen Tool 7.4版是一款立即可用于OpenMP的編譯器。該編程流程具有通用性，不但可用于各種多內(nèi)核應(yīng)用，而且還可通過擴(kuò)展支持各種不同內(nèi)核及系統(tǒng)規(guī)模。其目的是以單內(nèi)核編程的便捷性實(shí)現(xiàn)多內(nèi)核的高性能。

圖5:使用Navigator Runtime的KeyStone AMP編程流程

　　結(jié)論

　　多內(nèi)核導(dǎo)航器是一款面向KeyStone器件的創(chuàng)新型智能芯片基礎(chǔ)設(shè)施，可推動(dòng)多內(nèi)核編程的發(fā)展。多內(nèi)核導(dǎo)航器與Navigator Runtime可為每個(gè)硬件組件帶來抽象性，通過資源管理、調(diào)度以及動(dòng)態(tài)負(fù)載均衡功能實(shí)現(xiàn)平臺(tái)虛擬化，從而可限度地提高多內(nèi)核效率，以更低的系統(tǒng)成本實(shí)現(xiàn)更高的硬件利用率。將Navigator Runtime與OpenMP等多內(nèi)核編程模式相結(jié)合，可簡化AMP多內(nèi)核軟件設(shè)計(jì)，提高多內(nèi)核程序的可擴(kuò)展性與靈活性，并能夠以更低的成本快速部署新技術(shù)。