Характеристика проблемы параллельных и распределенных вычислений

Основные положения. Проблема параллельных и распределенных вычислений возникает в сложных системах управления и обработки больших объемов информации. Для примера рассмотрим рис.1.1, где представлена схема глобальной системы управления распределенной вычислительной сетью нескольких территориальных регионов страны.

Процесс функционирования этой системы состоит в следующем. На основании анализа сложившейся ситуации (природа которой априори считается враждебной человеку – например, космическая угроза) центр управления и принятия решений (ЦУПР) должен выработать оперативные решения по устранению космической угрозы. В распоряжении ЦУПРа находится разветвленная вычислительная сеть, в состав которой входят интеллектуальные вычислительные системы (ИВС), имеющие в своем составемногомашинные интеллектуальные компьютерные комплексы.

ИнтеллектуальностьИВС определяется наличием в них баз знаний,в которых сосредоточены знания (законы, закономерности, правила, свойства, признаки) об объектах данной предметной области (космосе). Интеллектуальность компьютерных комплексов определяется умением решать интеллектуальные (человеческие) задачи, а также дружественным интеллектуальным интерфейсом, позволяющим осуществлять пользователю диалог с компьютером на естественном языке, близком к человеческому общению (раздел 5.6.2).

Задачей глобальной системы является формирование и реализация цели управления на основе информации, полученной от космических и наземных средств наблюдения. Для реализации этой цели ЦУПР разрабатывает и распределяет между ИВС оперативные задания по выполнению региональных вычислительных задач.

Региональные (удаленные) ИВС решают указанные задачи и передают в ЦУПР результаты расчетов и рекомендации по реагированию на сложившуюся ситуацию. На основании этих результатов и рекомендаций ЦУПР принимает решения по ликвидации космической угрозы. При необходимости ЦУПР может выработать новые скорректированные задания и повторить весь цикл расчетов и получения рекомендаций.

Обработка больших объемов данных, отображающих различные быстропротекающие процессы в реальном масштабе времени (рис. 1.1), может быть осуществлена на высокопроизводительных многомашинных вычислительных комплексах в параллельных и распределенных вычислительных системах (ПРВС) (раздел 7). Эти системы состоят из параллельных вычислительных машин (ПВМ) (параллельных компьютеров) (раздел 5), состоящих из множества процессоров и блоков памяти и создаваемых на основе новейших технологических принципов построения современных средств вычислительной техники. Технологические достижения последних лет позволяют создавать мощные ПРВС, которые могут одновременно обрабатывать большой поток разнотипных вычислительных задач.

В связи с большими объемами перерабатываемой информации в сложных ПРВС (рис.1.1) возможным путем решения вычислительныхзадачявляется распараллеливание (распределение) потоков информации и вычислительных процессов между вычислительными комплексами (ресурсами) системы.

Распараллеливание вычислений в ПРВС может быть организовано на уровнях:
- региональных (территориальных) вычислительных систем;
- вычислительных комплексов (узлов) отдельного территориального региона;
- вычислительных машин отдельного вычислительного комплекса (узла);
- отдельных функциональных устройств ПВМ (процессоров, устройств памяти, коммуникационных устройств и др.).

Распараллеливание вычислений может осуществляться путем параллельной организации математического и программного обеспечения ПРВС, в том числе:
- метода решения поставленной задачи;
- математической модели исследуемого объекта или процесса;
- алгоритма решения задачи;
- программных средств решения задачи и др.

История развития моделей вычислений. Модель одиночного вычислителя. До недавних пор вычислительные операции осуществлялось на традиционных однопроцессорных ЭВМ с использованием так называемой модели одиночного вычислителя (далее – модели вычислителя).

В основу модели вычислителя положены три принципа ее построения.
1) Принцип последовательного выполнения операций означает, что в модели вычислителя допускается выполнение в каждый момент времени только одной операции. Этот фундаментальный принцип наиболее полно отражает процесс выполнения вычислений человеком-вычислителем, который реализует любой вычислительный процесс в виде конечной цепочки последовательно выполняемых операций.

2) Принцип фиксированной логической структуры заключается в фиксированной стандартной логической схеме выполнения операций.

3) Принцип конструктивной однородности означает ориентацию модели вычислителя на узкую специализацию функций, выполняемых отдельными частями модели.

Стандартную схему работы вычислителя иногда называют алгоритмом подражания. В соответствии с программой, разработанной квалифицированным специалистом, вычислитель осуществляет вычисления в виде последовательности простых арифметических и логических операций. Он как бы подражает квалифицированному специалисту при решении данной задачи. Поэтому специалист должен представить описание решения задачи, используя элементарные операции, известные вычислителю. Специалист должен также указать последовательность выполнения операций, чтобы у вычислителя не было неопределенности при переходе от одной операции к другой.

Принципиальным недостатком модели вычислителя является наличие теоретического предела производительности вычислений, обусловленного конечной скоростью передачи информации между элементами модели.

Быстродействие однопроцессорных ЭВМ до недавнего времени повышалось, в основном, за счет увеличения скорости срабатывания логических элементов. Благодаря достижению новых технологий скорость выполнения операций и взаимодействия с памятью за последние годы возросла на несколько порядков. Однако дальнейшее увеличение скорости срабатывания элементов стало ограничиваться причинами физического характера. При достаточно большом объеме вычислений время выполнения операций становится соизмеримым со временем передачи сигналов, которое не может быть уменьшено из-за больших размеров памяти, необходимой для хранения данных решаемой задачи.

Недостатком модели вычислителя является также то, что принцип фиксированной логической структуры при его физической реализации находит выражение в жесткой неизменяемой схеме ЭВМ, которая выходит из строя при появлении любой неисправности.

Указанные недостатки привели к неоднократным безуспешным попыткам создать высокопроизводительную ЭВМ на основе модели одиночного вычислителя. Оставаясь в рамках классических структур последовательных ЭВМ, трудно рассчитывать на обеспечение вычислительными мощностями сложных промышленных систем (например, таких систем, как на рис.1.1).

Для выхода из создавшегося положения стал необходим переход к новой модели вычислений – модели коллектива вычислителей.