|
p align="left">Расходы на REDUCTION := OMP_REDUCTION_OVERHEARDS * Число_редукционных_переменных * Число_раб_ядер Отметим, что параллельный цикл создается Ni раз, поэтому Расходы на DO := OMP_DO_OVERHEARDS * Ni * Число_раб_ядер Расходы на OpenMP вычисляется как сумма всех составляющих: Расходы на OpenMP := Расходы на PARALLEL + Расходы на DO + Расходы на REDUCTION + Расходы на синхронизацию. Просуммируем все составляющие, и получим Время i-го цикла: Время i-го цикла := Время полезных вычислений + Время барьерной синхронизации + Расходы на OpenMP. 1.11.4.4 Оценка времени выполнения гнезда цикловИтак, мы оценили Время i-го цикла. Чтобы вычислить время выполнения всего гнезда циклов, это время следует умножить на количество раз, которое этот цикл выполняется. Таким образом, время выполнения гнезда равняется N1 * N2 * … * Ni-1 * Время i-го цикла. 1.12 Блок поиска наилучшего DVM/OpenMP-вариантаРисунок 6. Принцип работы "Блока поиска DVM-варианта"Для начала рассмотрим принцип работы Блока поиска DVM-варианта. DVM-варианты подаются на вход "Блоку перебора вариантов и поиска наилучшего" (далее, Блок перебора вариантов). Этот блок занимается поиском оптимальной решетки процессоров, а также наилучшего варианта распараллеливания. Для поиска оптимальной решетки и наилучшего варианта, Блок перебора пользуется Библиотекой предсказателя производительности DVM-программ, сокращенно Библиотеке DVM-предиктора. DVM-предиктор предназначен для анализа и отладки производительности DVM-программ без использования реальной параллельной машины (доступ к которой обычно ограничен или сложен). С помощью DVM-предиктора пользователь имеет возможность получить предсказанные временные характеристики выполнения его программы на MPP или кластере рабочих станций с различной степенью подробности. [10] Библиотека DVM-предиктора позволяет получить характеристики эффективности DVM-варианта на некоторой решетке процессоров. Характеристики эффективности подсчитываются для каждого гнезда циклов, а также для всего варианта в целом. О том, какие бывают характеристики эффективности речь пойдет ниже. Сначала Блок перебора ищет оптимальную решетку процессоров. Он подает на вход Библиотеке DVM-предиктора некоторый DVM-вариант на различных решетках. Сравнивая полученные характеристики эффективности, Блок перебора выбирает оптимальную решетку. Далее, Блок перебора подает на вход Библиотеке предиктора DVM-варианты только на оптимальной решетке. Блок перебора вариантов анализирует полученные характеристики эффективности, и выбирает наилучший вариант распараллеливания. Номер наилучшего варианта распараллеливания передается Блоку записи результатов в Базу данных. Теперь рассмотрим, какие следует внести изменения, чтобы получить "Блок поиска наилучшего DVM/OpenMP-варианта". Рисунок 7. Принцип работы "Блока поиска DVM/OpenMP-варианта" Характеристики эффективности DVM-вариантов для всех циклов, посчитанные с помощью Библиотеки DVM-предиктора, подаются на вход Блоку пересчета DVM-характеристик. Этот блок изменяет характеристики эффективности с учетом того, что в узлах кластера теперь находятся мультипроцессоры. 1.12.1 Характеристики эффективности параллельной программыDVM-предиктор вычисляет достаточно много характеристик эффективности для интервала. В качестве интервала может выступать гнездо циклов, а также вся программа. Нам потребуется пересчитать только некоторые из этих характеристик: § CPU_time_usr - полезное процессорное время - время, потраченное на выполнение вычислений в интервале. § CPU_time_sys - полезное системное время - время, проведенное процессором в системной фазе (время, затраченное Lib-DVM). § CPU_time - полное процессорное время. Равняется сумме CPU_time_usr и CPU_time_sys. § Execution_time - время выполнения интервала. Остальные характеристики пересчитываются вызовом специальных функций Библиотеки DVM-предиктора, поэтому мы их рассматривать не будем. Указанные характеристики вычисляются для всех интервалов на каждом узле. Поядерные характеристики мы вычислять не будем. Рассмотрим интервал, соответствующий гнезду циклов. Обозначим внешний цикл гнезда как L. Значение характеристики <Имя_ характеристики > на этом интервале на i-м узле мы будем обозначать как <Имя_характеристики> Li.Требуется пересчитать эти поузловые характеристики с учетом того, что в каждом узле работает по несколько ядер. Поядерные характеристики не высчитываются. 1.12.2 Алгоритм пересчета характеристик эффективностиАлгоритм выполняет весьма приближенную оценку характеристик эффективности DVM/OpenMP-варианта, поэтому в дальнейшем нуждается в доработке.Будем говорить, что интервал распараллелен на OpenMP (или DVM), если этот интервал соответствует гнезду циклов, распараллеленному на OpenMP (или DVM).Поочередно обрабатываем каждый интервал. Нас будут интересовать только те интервалы, которые распараллелены на OpenMP. Пусть текущий интервал - это гнездо циклов, распараллеленное на OpenMP. Обозначим внешний цикл гнезда за L. Выполняем следующие действия.Шаг 1. Находим коэффициент ускорения. Коэффициент ускорения отражает во сколько раз быстрее цикл будет вычисляться на SMP-кластере, нежели на кластере с тем же количеством узлов. То есть во сколько раз полезное процессорные время DVM/OpenMP-варианта меньше соответствующего DVM-варианта. Системные затраты в расчет не берутся.Вычисляется коэффициент ускорения следующим образом. Находим максимальное количество итераций распараллеливаемого на OpenMP цикла, которое приходится на один узел.Затем находим, какое максимальное количество итераций этого цикла может прийтись на одно ядро этого узла. Коэффициент ускорения равняется отношению первой величины на вторую.Шаг 2. Пересчитываем поузловые характеристики эффективности текущего интервала· Для каждого узла кластера пересчитываем полезное процессорное время выполнения гнезда циклов, поделив старое значение параметра CPU_time_usrLi на коэффициент ускорения.· Вычисляем для каждого узла разность между старым и новым значение параметра CPU_time_usrLi. Обозначим эту величину для i-го узла как CPU_usr_diffLi.· Пересчитываем полное процессорное время:CPU_timeLi := CPU_time_usrLi + CPU_time_sysLi.· Пересчитываем время выполнения интервала. Execution_timeLi складывается из полезного процессорного времени, системных затрат, простоев и пр. Мы предполагаем, что из всех этих характеристик изменяется только полезное процессорное время, и не учитываем системные затраты на использование OpenMP, а также простои ядер и время на их синхронизацию. Для каждого узла из Execution_timeLi следует вычесть CPU_usr_diffLi.Шаг 3. Пересчитываем характеристики эффективности интервалов, вложенных в текущий (гнезда циклов, вложенные, но не тесно-вложенные в текущее гнездо циклов). Для каждого вложенного интервала следует выполнить действия, описанные на Шаге 2.Шаг 4. Пересчитываем характеристики эффективности интервалов, содержащих текущий интервал.Пусть цикл L непосредственно вложен в цикл P. В качестве P может также выступать тело всей программы. Возможны два случая:1) Цикл P является внешним для некоторого гнезда циклов или является телом всей программы. В этом случае, циклу P соответствует некоторый интервал, для которого DVM-предиктором подсчитаны характеристики эффективности. Эти характеристики следует пересчитать. Для каждого узла (i от 1 до Число_узлов) выполняем следующие действия:· CPU_time_usrPi := CPU_time_usrPi - CPU_usr_diffLi· CPU_timePi := CPU_time_usrPi + CPU_usr_sysPi· Execution_timePi := Execution_timePi - CPU_usr_diffLi2) Цикл P не является внешним для некоторого гнезда циклов.Пусть Np - количество итераций цикла P. Для цикла P характеристики эффективности не вычислялись. Нам известно, что тело цикла P на i-м узле стало выполняться на CPU_usr_diffLi быстрее. Соответственно, весь цикл P будет выполняться на i-м узле быстрее на Np * CPU_usr_diffLi. Отразим этот факт следующей записью:CPU_usr_diffPi := Np * CPU_usr_diffLi.Если P является самым внешним циклом (телом всей программы), останавливаемся. В противном случае все действия, описанные в шаге 4, следует повторить для цикла, в который непосредственно вложен цикл P.1.13 Особенности реализации1.13.1 Классы решаемых задачDVM/OpenMP-эксперт, имеет следующие ограничения: § Входная программы должна быть написана на языке Фортран 77 § Входная программы не должна содержать процедуры или допускать их инлайн-подстановку. § DVM/OpenMP-эксперт распараллеливает только циклы. § На OpenMP распараллеливаются только те циклы, которые сумел распараллелить DVM-эксперт, а также циклы, тесно-вложенные в него. 1.13.2 Специальные комментарии.Текущая версия анализатора не предоставляет DVM/OpenMP эксперту информацию об особенностях цикла. Недостающую информацию должен сообщать пользователь, используя специальные комментарии. Рассмотрим их подробнее.Если программист хочет задать дополнительную информацию о программе, он должен вставить в текст программы комментарий, начинающийся с последовательности символов CPRG. Всё, что идёт после этих символов записывается в Базу Данных в таблицу специальных комментариев. Если требуется прокомментировать свойства какого-нибудь цикла, комментарии вставляются перед заголовком цикла.DVM/OpenMP-эксперт обрабатывает следующие специальные комментарии:· private(<переменная>) - задаёт переменную, для которой порождается локальная копия в каждой нити; начальные значения локальных переменной не определено.· private_all(<переменная>) - задаёт переменную, которая будет private на протяжении всей программы.· first_private(<переменная>) - задаёт переменную, для которой порождается локальная копия в каждой нити; локальные копии переменных инициализируются значением этой переменной в нити-мастере;.· last_private(<переменная>) -переменной присваивается результат с последнего витка цикла;· reduction(<переменная>(<оператор>)) - задаёт оператор и переменную; для переменной создаются локальные копии в каждой нити; локальные копии инициализируются соответственно типу оператора (для аддитивных операций - 0 или его аналоги, для мультипликативных операций - 1 или её аналоги); над локальными копиями переменной после выполнения всех операторов параллельной области выполняется заданный оператор [9]. В Таблице 1 отражено соответствие между текстовым представлением <оператор> и его аналогом на языке Fortran.|
<оператор> | Оператор языка Fortran | | SUM | + | | PRODUCT | * | | MAX | Max | | MIN | Min | | AND | .and. | | OR | .or. | | EQV | .eqv. | | NEQV | .neqv. | | |
Таблица 1. Редукционные операции.1.13.3 Аргументы командной строкиРассмотрим аргументы командной строки, доступные при использовании DVM/OpenMP-эксперта.|
Ключ | Описание | | -omp | Отрабатывает только OpenMP-эксперт. На выходе получаем параллельную программу для SMP-системы на языке Fortran-OpenMP. | | -dvm | Отрабатывает только DVM-эксперт. На выходе получаем параллельную программу для кластера на языке Fortran-DVM. | | -omp -dvm | Если присутствуют оба ключа (или нет ни одного из этих ключей), отрабатывает DVM/OpenMP-эксперт. На выходе получаем параллельную программу для SMP-кластера на языке Fortran-DVM/OpenMP | | -variants | Включается режим, в котором на выходе выдаются все варианты распараллеливания. Это могут быть DVM-варианты, OpenMP-варианты или DVM/OpenMP-варианты в зависимости от присутствия ключей -omp и -dvm. | | -nproc <число> | Задаем количество узлов кластера | | -ncore <число> | Задаем количество ядер, находящихся на каждом из узлов | | |
Таблица 2.Аргументы командной строки1.14 Результаты тестированияТестирование анализатора проводилось на программах, реализующих решение уравнения Пуассона в трехмерном пространстве классическими итерационными методами: методом Якоби, методом последовательной верхней релаксации (SOR), методом красно-черного упорядочения (RedBlack), а также тесте, разработанном NASA Ames Research Center (LU). В тестах Якоби, SOR и RedBlack использовалась матрица размером 3000x3000.DVM/OpenMP-варианты, полученные на указанных тестах с помощью DVM/OpenMP-эксперта, успешно прошли проверку на инструменте Intel Thread Checker 3.1. Intel Thread Checker - инструмент для отладки параллельных программ. Он осуществляет поиск мест с возможным недетерминированным поведением многопоточной программы, написанной как на основе библиотеки потоков (Windows или POSIX threads), так и с использованием технологии OpenMP. Intel Thread Checker рассматривает DVM/OpenMP-вариант как программу на языке Fortran-OpenMP. Отметим, что Intel Thread Checker не в состоянии проверить отсутствие ошибок в работе конвейерного алгоритма.Тесты NAS являются самопроверяющимися, что позволяет убедиться в том, что распараллеленная программа выдает такой же результат, что и последовательная программа. Все сгенерированные DVM/OpenMP-варианты теста LU прошли проверку успешно.Также отметим, что скорость работы DVM/OpenMP-эксперта почти не уступает скорости DVM-эксперта. Замедление в работе отражено в Таблице 3 на различных тестах.|
Название теста | Замедление работы эксперта | | Якоби | 0,45% | | SOR | 0,18% | | RedBlack | 3% | | LU | 0,0683% | | |
Таблица 3. Замедление работы DVM/OpenMP-эксперта по сравнению с DVM-экспертомВ Таблице 4 приведены времена выполнения DVM/OpenMP-вариантов для тестовых программ. В Таблице 5 - ускорения программ. Ускорение вычисляется как отношение времени выполнения теста на одном ядре ко времени выполнения распараллеленного теста на нескольких ядрах. Программы компилировались как Fortran-OpenMP-программы, и запускались на вычислительном комплексе IBM eServer pSeries 690 (Regatta).|
Количество ядер | Времена выполнения тестовых программ, сек. | | | Якоби | SOR | RedBlack | LU | | 1 | 2,26 | 0,42 | 5,48 | 206,41 | | 2 | 1,41 | 0,28 | 3,39 | 148,44 | | 4 | 0,91 | 0,23 | 3,36 | 125,79 | | 8 | 0,76 | 0,46 | 6,13 | 117,21 | | |
Таблица 4. Времена запуска тестовых программ, в секундах|
Количество ядер | Ускорение тестовых программ | | | Якоби | SOR | RedBlack | LU | | 2 | 1,60 | 1,50 | 1,62 | 1,39 | | 4 | 2,48 | 1,83 | 1,63 | 1,64 | | 8 | 2,97 | 0,91 | 0,89 | 1,76 | | |
Таблица 5. Ускорения, продемонстрированное на тестовых программахГрафики временен выполнения и ускорений распараллеленных тестовых примеров можно найти в Приложении А. ЗаключениеВ рамках дипломной работы был реализована программа DVM/OpenMP-эксперт. Общий объем разработанного кода составил более 2000 строк на языке С++.DVM/OpenMP-эксперт входит в состав экспериментальной системы автоматизации распараллеливания. За основу разработки был взят компонент системы, реализованный к моменту начала работы над поставленной задачей - DVM-эксперт.Работа системы успешно прошла проверку инструментом Intel Thread Checker, а также самопроверяющимся тестом от NASA Ames Research Center. Также система была протестирована на Fotran-программах, реализующих следующие алгоритмы: классический алгоритм Якоби, алгоритм верхней релаксации (SOR), алгоритм решения системы линейных алгебраический уравнения методом Гаусса, алгоритм красно-черного упорядочения (RedBlack), а также на тесте NAS LU. Распараллеленные тесты продемонстрировали ускорение при запуске на SMP-системе. Приложение А. Графики времен выполнения и ускорений распараллеленных тестовых программ График 1.А График 1.БГрафик 2.А График 2.Б График 3.А График 4.БГрафик 4.А График 4.Б
Страницы: 1, 2, 3, 4, 5, 6
|
