第三章異構(gòu)混合架構(gòu)性能分析理論1.實(shí)際加速比無(wú)法達(dá)到理想加速比的原因有哪些?隨著處理器數(shù)量的增加，問(wèn)題的規(guī)模(工作負(fù)載)保持不變；目標(biāo)是更快地運(yùn)行相同大小的問(wèn)題；在理想情況下，當(dāng)處理器規(guī)模是基準(zhǔn)測(cè)試的規(guī)模的n倍時(shí)，其運(yùn)行時(shí)間應(yīng)該為基準(zhǔn)程序的1/n，即理想的加速比應(yīng)該為n。2.在并行度為p的情況下，某一并行程序的加速比是p-1(相對(duì)于單處理器下的情況),根據(jù)Amdahl定律，該程序的串行負(fù)載比是多少?Amdahl定律計(jì)算公式：S=1/(1-a+a/n)S:加速比a:并行計(jì)算部分所占比例n:并行處理節(jié)點(diǎn)個(gè)數(shù)(處理器個(gè)數(shù))3.某一并行程序在單處理機(jī)上運(yùn)行時(shí)，10%的運(yùn)行時(shí)間花費(fèi)在不可并行化的串行函數(shù)中，90%的運(yùn)行時(shí)間花費(fèi)在可以并行化的函數(shù)中。問(wèn)該程序在多處理機(jī)上運(yùn)行，以單處理器為基準(zhǔn)，當(dāng)并行規(guī)模擴(kuò)大多少倍時(shí)，該程序的加速比才能達(dá)到5?該程序可達(dá)到的最大加速比是多少?加速比=優(yōu)化前系統(tǒng)耗時(shí)/優(yōu)化后系統(tǒng)耗時(shí)所謂加速比就是優(yōu)化前的耗時(shí)和優(yōu)化后的耗時(shí)的比值。加速比越高，表明優(yōu)化效果越明顯。根據(jù)這個(gè)公式，如果CPU處理器數(shù)量趨于無(wú)窮，那么加速比與系統(tǒng)的串行化比例成反比，也就說(shuō)

如果系統(tǒng)中有50%的代碼必須串行化，那么系統(tǒng)的最大加速比為2。4.假設(shè)某問(wèn)題的工作負(fù)載為W，可并行部分的負(fù)載Wp占總負(fù)載的60%，其余部分的負(fù)載Ws占總負(fù)載的40%。以單處理器為基準(zhǔn)，在并行度為10時(shí)，分別求固定負(fù)載和固定時(shí)間下的加速比。略。5.通過(guò)nvidia-smi或者rocm-smi等命令輸出硬件的相關(guān)信息，計(jì)算GPU的理論性能和理論帶寬。nvidia-smi—NVIDIA

SystemManagementInterfaceprogram即英偉達(dá)系統(tǒng)管理界面程序。

nvidia-smi（也稱為NVSMI）為來(lái)自Fermi和更高體系結(jié)構(gòu)系列的nvidiaTesla、Quadro、GRID和GeForce設(shè)備提供監(jiān)控和管理功能。GeForceTitan系列設(shè)備支持大多數(shù)功能，為GeForce品牌的其余部分提供的信息非常有限。NVSMI是一種跨平臺(tái)工具，支持所有標(biāo)準(zhǔn)NVIDIA驅(qū)動(dòng)程序支持的Linux發(fā)行版，以及從WindowsServer2008R2開(kāi)始的64位版本的Windows。6.編寫benchmark測(cè)試當(dāng)前計(jì)算機(jī)的有效性能和有效帶寬。1.基準(zhǔn)測(cè)試代碼文件必須是_test.go結(jié)尾，和單元測(cè)試一樣；2.基準(zhǔn)測(cè)試的函數(shù)以Benchmark開(kāi)頭；3.參數(shù)須為*testing.B；4.基準(zhǔn)測(cè)試函數(shù)不能有返回值；5.b.ResetTimer是重置計(jì)時(shí)器，這樣可以避免for循環(huán)之前的初始化代碼的干擾；6.b.StopTimer()停止計(jì)時(shí)器7.b.N是基準(zhǔn)測(cè)試框架提供的，Go會(huì)根據(jù)系統(tǒng)情況生成，不用用戶設(shè)定，表示循環(huán)的次數(shù)，因?yàn)樾枰磸?fù)調(diào)用測(cè)試的代碼，才可以評(píng)估性能。7.實(shí)際運(yùn)行中影響程序達(dá)到理論性能和理論帶寬的因素有哪些?（1）網(wǎng)絡(luò)設(shè)備（交換機(jī)、路由器、集線器）；（2）拓?fù)浣Y(jié)構(gòu)（即網(wǎng)絡(luò)構(gòu)造形狀，如星型、環(huán)狀）；（3）數(shù)據(jù)類型；（4）用戶的數(shù)量；（5）客戶機(jī)與服務(wù)器（如系統(tǒng)總線、磁盤性能、網(wǎng)絡(luò)適配器、硬件防火墻）；（6）電力系統(tǒng)和自然災(zāi)害引起的故障率。8.考慮如下的算法(7-pointstencil)，求其計(jì)算密度，其中，new數(shù)組和old數(shù)組都是三維的雙精度浮點(diǎn)數(shù)組，dim數(shù)值足夠大。確定物體的質(zhì)量：使用天平等工具測(cè)量物體的質(zhì)量，記錄下質(zhì)量值。確定物體的體積：物體的體積可以使用各種方法進(jìn)行測(cè)量，例如水位移法、容積法等。不同的物體可以選擇不同的方法進(jìn)行體積測(cè)量。計(jì)算密度：使用物體的質(zhì)量和體積計(jì)算密度，即密度=質(zhì)量/體積。單位換算：密度的單位通常為克/立方厘米（g/cm3），有時(shí)也可以使用千克/立方米（kg/m3）等單位。需要根據(jù)實(shí)際需要進(jìn)行單位換算。注意小數(shù)點(diǎn)精度：在計(jì)算密度時(shí)需要注意小數(shù)點(diǎn)精度，保留適當(dāng)?shù)奈粩?shù)可以更好地反映出物體的密度。確定物體的質(zhì)量：使用天平等工具測(cè)量物體的質(zhì)量，記錄下質(zhì)量值。9.以NVIDIATeslaV100為例，畫出其roofline性能模型。略。10.閱讀roofline性能模型的原始論文或相關(guān)報(bào)告，探