MPI障礙的時間複雜度是多少?它們是否可以擴展大量內核(>> 10k)?MPI障礙的複雜性
3
A
回答
7
屏障複雜度爲高度實現特定。它可以是線性的,可以是對數的,也可以是更好或更差。一些體系結構爲一些集體操作提供專用網絡,例如, IBM的Blue Gene有一個專門的全局中斷網絡,它允許以非常快的MPI_BARRIER
實現幾乎不變的複雜性,但只有在MPI_COMM_WORLD
上執行時纔是如此。
1
儘管Hristo Iliev是正確的,但您可以假設在這些等級上使用的任何合理的MPI實現在集體操作上具有對數複雜度。是的,這確實規模>> 10k核心。不同的現代實現之間仍然存在一個戲劇性的因素。同樣在這種規模下,操作系統噪聲可能對集體操作產生非常重要的影響(參見[1])。
0
複雜性應該不會比O(log N)差,因爲可以通過一個單詞實現屏障作爲allreduce,並且allreduce按比例縮放爲O(log N)。
相關問題
- 1. 障礙
- 2. AS3障礙hitTest
- 3. CALayer障礙?
- 4. 障礙.htaccess
- 5. 2D與障礙
- 6. JQuery類的障礙
- 7. Facebook評論無障礙回覆
- 8. C++模板多態性障礙物
- 9. C++編碼障礙
- 10. 無障礙開關
- 11. Android佈局障礙
- 12. JQT功能障礙
- 13. 障礙隨着GameplayKit
- 14. DispatchQueue障礙問題
- 15. Seg障礙在我的
- 16. AS3中的對象障礙?
- 17. 並行計算的障礙
- 18. 硒安裝障礙「importfirefoxdriver」
- 19. 無障礙拖放模式
- 20. 廣播不能與障礙
- 21. 障礙不會移動
- 22. 障礙與Grails開發
- 23. 打破任務障礙
- 24. Swift CollectionView排序障礙
- 25. Python 2.7多處理障礙
- 26. 預約系統障礙
- 27. 類派生和無障礙
- 28. 如何使用OpenMP障礙
- 29. Android無障礙服務
- 30. Jtemplate無障礙問題
另外,爲了解決OP的第二個問題,超級計算機的文獻充滿了(可能是誇大其詞的)10k內核上運行的MPI程序的報告,如果他們沒有使用任何屏障,我會感到驚訝。 – 2012-08-09 08:55:43