WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!

Pages:     |
|

На правах рукописи

Степанов Евгений Александрович Методы и средства планирования вычислений в системах автоматизированного динамического распараллеливания программ Специальность 05.13.11 математическое и программное обеспечение вычислительных машин, комплексов и компьютерных сетей

Автореферат диссертации на соискание ученой степени кандидата физико-математических наук

Москва – 2007

Работа выполнена на механико-математическом факультете и в Институте механики Московского государственного университета имени М. В. Ломоносова.

Научный консультант: доктор физико-математических наук, профессор Васенин Валерий Александрович.

Официальные оппоненты: доктор физико-математических наук, профессор Кузюрин Николай Николаевич;

кандидат физико-математических наук, доцент Пронкин Юрий Николаевич.

Ведущая организация: Федеральное государственное унитарное предприятие НИИ Квант.

Защита диссертации состоится 15 февраля 2008 г. в 15 часов на заседании диссертационного совета Д.002.087.01 в Институте системного программирования Российской академии наук по адресу: 109004, Москва, ул. Большая Коммунистическая, д. 25.

С диссертацией можно ознакомиться в библиотеке Института системного программирования РАН.

Автореферат разослан 14 января 2008 г.

Ученый секретарь С. П. Прохоров диссертационного совета канд. физ.-мат. наук

Общая характеристика работы

Актуальность темы В последние годы наблюдается значительный рост производительности вычислительных систем различной архитектуры, от сильносвязанных суперкомпьютерных установок до распределенных слабосвязанных систем, создаваемых по технологии GRID. Для решения многих практически важных, и, как правило, вычислительно сложных задач применяются параллельные программы, исполняемые на многопроцессорных установках.

Одним из наиболее популярных средств для создания параллельных программ в настоящее время является стандарт MPI. Однако он обладает недостатками, затрудняющими написание программ на основе алгоритмов, в которых структура вычислительного графа, время исполнения отдельных частей и зависимости между ними неизвестны на стадии написания программы. Назовем такие приложения и алгоритмы обладающими внутренним динамическим параллелизмом (или, более кратко динамическим параллелизмом). Значительные трудности возникают при использовании MPI-программ на существенно неоднородной вычислительной среде. Стандарт MPI определяет такие низкоуровневые операции, как отправка и прием сообщений с отдельного узла, а также пересылка сообщений и синхронизация процессов взаимодействия между группой узлов.

Применение MPI позволяет создавать эффективные программы для решения многих прикладных задач, в первую очередь обладающих внутренним статическим параллелизмом. В то же время, в стандарте MPI не описаны средства динамической балансировки вычислительной нагрузки.

При использовании MPI для приложений с динамическим параллелизмом эти механизмы должны быть реализованы в приложении.

Одним из альтернативных подходов к созданию параллельных программ является их автоматизированное динамическое распараллеливание1. При его использовании для приложений с динамическим параллелизмом передача данных, синхронизация процессов и распределение нагрузки выполняются автоматически, без указаний со стороны пользователя. Автоматизированное динамическое распараллеливание существенно сокращает время, которое требуется для реализации алгоритма. Оно уменьшает трудоемкость разработки для многих классов приложений. К таким, в первую очередь, относятся приложения, в том числе отмеченные выше, в которых на стадии написания программы распределить нагрузку между узлами вычислительного поля невозможно или очень сложно. К их числу относятся, например, задачи, сводящиеся к поиску слабоструктурировнных данных с использованием графовых моделей, или игровые задачи со сложными стратегиями.

В последнее время для решения вычислительно сложных задач широкое применение получают территориально распределенные высокопроизводительные вычислительные установки. Такие вычислительные комплексы характеризуются неоднородностью аппаратного и программного обеспечения, различной производительностью узлов и коммуникационных каналов, и, как следствие, высокой вероятностью отказов. Как показывает практика, использование традиционных методов статического распараллеливания на таких установках неэффективно.

Под динамическим распараллеливанием в контексте настоящей работы понимается способ создания параллельных программ, при котором распределение вычислений между узлами системы происходит в течение всего времени исполнения программы. Динамическое распараллеливание позволяет преодолеть недостатки, присущие традиционным методам распараллеливания в распределенных системах.

Ключевым компонентом в средствах динамического распараллеливаВасенин В. А., Водомеров А. Н., Инюхин А. В. Средства автоматизированного динамического распараллеливания программ на основе сочетания императивных и функциональных механизмов // Информационные Технологии. 2007. № 5. 32 с.

ния является модуль планирования задач (далее именуемый планировщиком). Под планированием будем понимать процесс распределения вычислительной работы2 между узлами с целью уменьшения времени исполнения программы.

К настоящему времени разработано несколько средств автоматизированного динамического распараллеливания вычислительных приложений. Многие из них, например, GUM и MultiLisp, работают с программами на функциональных языках. Программный комплекс NewTS является средством автоматизированного динамического распараллеливания программ, основанным на языках C и C++. Использование в качестве базовых широко распространенных, императивных языков программирования позволяет создавать с его помощью высокопроизводительные параллельные программы для задач с динамическим параллелизмом. Такой подход облегчает перенос существующих последовательных программ на вычислительные комплексы с новой архитектурой. Важной особенностью NewTS является тот факт, что программы для него могут исполняться как на локальных, сильносвязанных установках, так и на распределенных, в том числе гетерогенных, вычислительных кластерах. Последнее обстоятельство позволяет использовать NewTS в качестве удобного объекта для тестирования и апробации новых подходов к планированию вычислений на комплексах с разной архитектурой. Вместе с тем, планировщик, который использовался в первых версиях NewTS, обладал рядом существенных недостатков, затруднявших его применение на системах с большим числом вычислительных узлов, а также на гетерогенной вычислительной среде.

В силу изложенных выше причин, разработка алгоритмов планирования для средств автоматизированного динамического распараллеливания приложений, способных эффективно работать в условиях распределенной Под вычислительной работой здесь будем понимать процесс вычислений, обеспечивающих решение одной из подзадач в рамках исходной прикладной программы.

гетерогенной среды, а также их программная реализация в программном комплексе NewTS, составляющие суть диссертационной работы, являются актуальными задачами.

Цели и задачи работы Целью диссертационной работы является разработка методов и средств планирования в системах автоматизированного динамического распараллеливания приложений и их реализация в составе программного комплекса NewTS. Для достижения этой цели были поставлены следующие задачи:

1. математическое описание процессов исполнения и планирования параллельных вычислительных приложений;

2. исследование свойств и разработка эффективных алгоритмов планирования процессов выполнения параллельных приложений с динамическим параллелизмом;

3. реализация разработанных алгоритмов в составе модуля планирования системы автоматизированного динамического распараллеливания программ NewTS;

4. исследование и разработка методов эффективного и корректного исполнения мелкозернистых параллельных программ.

Научная новизна работы Научной новизной обладают следующие результаты диссертации:

• математическая модель, описывающая процесс исполнения параллельной программы в распределенных и неоднородных системах, и оценка эффективности исполнения параллельных программ;

• два алгоритма планирования для системы автоматизированного динамического распараллеливания приложений, реализованные в NewTS, которые позволяют повысить утилизацию ресурсов вычислительных систем и уменьшить время исполнения параллельных программ.

Практическая значимость Разработанные алгоритмы позволяют эффективно исполнять широкий класс параллельных вычислительных программ. Созданная автором программная реализация этих алгоритмов для системы NewTS была применена для распараллеливания ряда практически значимых вычислительных задач, в том числе:

• программного комплекса Vortex, предназначенного для моделирования двумерного нестационарного обтекания твердых тел потоком несжимаемой среды;

• приложения RT, используемого для построения высококачественных изображений методом трассировки лучей;

• приложения insert_doc, для обработки и индексирования текстовых документов, входящего в состав поисковой системы АСИО3.

Результаты применения подтвердили эффективность и масштабируемость разработанных алгоритмов.

Доклады и печатные публикации Основные положения диссертации докладывались на международных научных конференциях студентов, аспирантов и молодых ученых Ломоносов2005, Ломоносов-2006 и Ломоносов-2007, на третьей международной АСИО Автоматизированная Система Информационного Обеспечения, разрабатываемая в НИИ Механики МГУ имени М. В. Ломоносова для тематической обработки текстовой информации в больших (корпоративного масштаба) и сверхбольших (Интернет) хранилищах данных.

конференции по проблемам управления МКПУ-2006 (Москва, ИПУ РАН, 20–22 июня 2006 года), на IX международной конференции Проблемы функционирования информационных сетей ПФИС-2006 (Новосибирск, 31 июля – 3 августа 2006 года), а также на семинаре Проблемы современных информационно-вычислительных систем под руководством д.ф.-м.н., проф. В. А. Васенина (два доклада в течении 2005–2007 г. г.).

По материалам диссертации опубликовано семь работ, две из которых в журналах, рекомендованных ВАК.

Структура работы Работа состоит из введения, пяти глав, заключения и списка литературы.

Общий объем диссертации 136 страниц. Список литературы включает 77 наименований.

Краткое содержание работы Во введении описываются цели работы, обосновывается ее актуальность и практическая значимость, перечисляются основные результаты.

Первая глава является вводной, в ней излагаются основные идеи и понятия, определяющие процесс планирования в системах автоматизированного динамического распараллеливания прикладных программ. В разделе 1.1 определяется задача планирования вычислений в системах динамического распараллеливания.

Отмечается, что традиционно под планированием понимается задача составления расписаний. Постановка этой задачи включает некоторые наборы работ и вычислительных узлов. Требуется определить порядок исполнения работ на этих узлах таким образом, чтобы достичь оптимального значения некоторой целевой функции. Важной особенностью этой задачи является тот факт, что вся информация о работах известна заранее. Однако, во многих практически важных случаях планировщик не обладает такой информацией.

Далее в разделе 1.1 обращается внимание на тот факт, что в системах динамического распараллеливания в общем случае до запуска программы невозможно определить количество задач, которые будут созданы в процессе ее исполнения, порядок их создания, а также процессорное время, необходимое для их исполнения. Таким образом, в этих системах естественным образом возникает задача динамического планирования, также называемая задачей балансировки нагрузки (load balancing)4.

В разделах 1.2 и 1.3 рассматриваются методы планирования в системах динамического распараллеливания. В разделе 1.4 приведен краткий обзор методов планирования в таких системах, как Cilk, CHARM++, GUM и Т-система. Более подробно рассматривается Т-система подход к распараллеливанию программ, разрабатываемый в ИПС РАН и в МГУ имени М. В. Ломоносова5. Обращается внимание на тот факт, что существующие реализации Т-системы, в том числе GRACE, OpenTS, NewTS, различаются как по своему внутреннему устройству, так и по возможностям, предоставляемым ими пользователю. Отмечается, что программный комплекс NewTS используется в качестве объекта для апробации результатов настоящей диссертационной работы.

В Т-системе для разработки прикладных программ используется язык TC. Он представляет собой язык C++ с несколькими модификаторами, описывающими возможности параллельного исполнения отдельных чаLoidl H.-W. Load balancing in a parallel graph reducer // Trends in functional programming.

Exeter, UK, UK: Intellect Books, 2002. Pp. 63–74.

Динамическое распараллеливание программ на базе параллельной редукции графов. Архитектура программного обеспечения новой версии Т-системы / С. М. Абрамов, В. А. Васенин, Е. Е. Мамчиц и др. // Тр. Всерос. науч. конф. Высокопроизводительные вычисления и их приложения (30 октября – 2 ноября 2000, г. Черноголовка). М.: Изд-во МГУ, 2000. С. 261–264.

Т-система с открытой архитектурой / С. М. Абрамов, А. И. Адамович, А. В. Инюхин и др. // Тр.

Междунар. науч. конф. Суперкомпьютерные системы и их применение SSA’2004 (26–28 октября 2004, г. Минск). Минск: ОИПИ НАН Беларуси, 2004. С. 18–22.

стей программы. Основными модификаторами являются tfun и tval.

С помощью модификатора tfun объявляются так называемые Т-функции, которые могут исполняться на другом узле системы параллельно с вызывающей функцией. Вызов Т-функции не приводит к ее немедленному исполнению. Вместо этого вызывающая функция получает так называемое неготовое значение. После завершения выполнения функции значение станет готовым содержащим результат вычислений.

Вызов Т-функции приводит к созданию задачи объекта, описывающего ее отложенное исполнение. Задача может пересылаться между узлами вычислительной системы. Планировщик Т-системы определяет порядок исполнения задач и их пересылки между узлами с целью минимизации времени исполнения программы.

Алгоритмы планирования, используемые в версиях Т-системы, предшествующих NewTS, показывали свою неэффективность для рассматриваемого класса приложений (далее используется термин Т-программа) даже для относительно небольшого ( 50) числа вычислительных узлов.

Pages:     |
|



© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.