Параллельное замедление - Parallel slowdown
Параллельное замедление - это явление в параллельных вычислениях, когда распараллеливание параллельного алгоритма за пределами определенной точки заставляет программу работать медленнее (требуется больше времени для выполнения до завершения).
Параллельное замедление обычно является результатом узкого места в системе связи. По мере добавления дополнительных процессорных узлов каждый обрабатывающий узел тратит все больше времени на обмен данными, чем на полезную обработку. В какой-то момент накладные расходы связи, создаваемые добавлением другого узла обработки, превышают увеличенную вычислительную мощность, которую обеспечивает узел, и происходит параллельное замедление.
Параллельное замедление происходит, когда алгоритм требует значительного взаимодействия, особенно промежуточных результатов. Некоторые проблемы, известные как слишком параллельные проблемы , не требуют такого взаимодействия, и поэтому на них не влияет замедление.
Эта статья по информатике незавершена . Вы можете помочь Википедии, расширив ее . |
Ссылки
Смотрите также
- Мифический человек-месяц , аналогичная ситуация для команды программистов, где на продуктивность влияет человеческое общение.