@AndrSlav

Здравствуйте.
Помогите понять - стоит ли вообще заниматься распараллеливанием на CPU, или теперь имеет смысл только GPU (судя по прочитанному из инета, использование для вычислений GPU на порядки повышает производительность)? Например, для ооочень больших матрично-векторных произведений.

И правильно ли я понимаю принципы работы со следующими сущностями:
OpenMP - в свой код c++ включаю нужные инструкции и все (здесь вроде понятно),
OpenCL - написано, что фреймворк - т.е. я не могу тупо вставить в VC или билдеровский код инструкции, а должен переписать всю программу в новой среде?
CUDA - "Технология NVIDIA CUDA™ – это единственная среда разработки на языке программирования C" - т.е. тоже фреймворк, и тоже переписывать программу?

Цель - в написанную в с++ программу внести изменения, чтобы она стала работать с GPU, но без тотального переписывания. Извиняюсь за глупые вопросы, но с современными технологиями знаком плохо

0

@castaway

CPU и GPU - два разных процессора. Можно добиться максимальной производительности, если "распараллелить" задачу и на CPU и на GPU одновременно, правда далеко не любая задача подойдет для этого.
Всё зависит от задач. Например некоторые из них неэффективно выполнять на GPU.

Можно и так сказать, только это не так уж и просто.

Всю программу переписывать не надо, а только то, что ты хочешь чтобы выполнялось на GPU.

Ничего про неё не знаю.

1

@nmcf

Есть ещё SSE, в самом процессоре.

1

@Kastaneda

Просто для размышления - сотрудники нашей компании периодически выступают на всяких семинарах с докладами. У нас один open source продукт на базе которого мы представляем всякие штуки. На семинаре по оптимизациям на GPU мы адаптировали один из наших алгоритмов из этого проекта на GPU и представили эту оптимизацию. На семинаре по Intel мы адаптировали его же под CPU и выступили там Короче можно и там и там. На GPU правда можно лучше адаптировать некоторые специфичные алгоритмы, которые на CPU проседают.

1

@AndrSlav

Kastaneda, судя по статье из инета http://evatutin.livejournal.com/63893.html , gpu позволяет увеличить скорость умножения матриц до 2000 раз, по сравнению с одним CPU. Т.е. по скорости в этом случае обычный компьютер с вычислениями на GPU сравним с рабочей станцией с 2000 CPU?

0

@Kastaneda

Подобные утверждения не верны. Если что-то мощнее чего-то в N раз, то это не значит, что N чего-то сопоставимо с одним чем-то (вроде понятно).

У меня нет глубоких знаний в этой области, поэтому напишу то, что знаю. Матрицы на GPU действительно быстро считаются, т.к. внутри GPU есть матрица, которая может просчитаться за один такт (CPU тут бы понадобилось ооочень много тактов). За счет этого собственно и такая разница в скорости.

Ну и еще для информации - когда биткоины только появились у них была низкая сложность майнинга и все майнили на CPU, со временем сложность увеличивалась и добыть хоть что-то стало возможным только на GPU, т.к. CPU не справлялся. Т.е. в этом конкретном случае GPU обходит CPU на порядок.

Короче использовать GPU или CPU зависит от ситуации. Если алгоритм хорошо ляжет на CPU, то возиться с GPU нет смысла.

2

@taras atavin

AndrSlav, GPU - специализированный процессор, PU в обеих аббревиатурах означает "процессор", G - графический, C - центральный. Графический назван так именно потому, что предназначен для графики. Если задача допускает эффективное решение на GPU и такое решение не мешает графике, пожалуйста, юзайте GPU. Если нет, то CPU. Если задача допускает распараллеливание и ресурсоёмка, то нельзя допускать простаивание CPU во время её решения.

1

@AndrSlav

taras atavin, т.е. операции типа умножения матриц/векторов или сортировка больших массивов данных, где происходит сложение/умножение/перестановки чисел, лучше адаптировать к вычислениям на GPU, а если есть, например, цикл по массиву объектов класса, на каждой итерации которого происходит вызов метода с проведением сложных расчетов с использованием сортировок/связных списков/вызовов дополнительных методов, то в этом случае прироста в производительности на GPU не получить?

0

@taras atavin

Ну я подробно не разбирался, есть ли с этим проблемы у GPU. Но есть ещё один фактор: не мешать графике. Это специализированный контроллер, предназначенный только для графики. Хотите использовать не по назначению - потрудитесь прогнать тест для проверки того, будет ли это мешать использованию GPU по основному назначению. Если не будет, значит решение хорошее, если мешает, то не годное.

0

@AndrSlav

taras atavin, да мне только для расчетов, графика вообще не нужна.

0

@taras atavin

А результат куда класть? В файл?

0

@AndrSlav

taras atavin, да, вывожу в файл. Сейчас пока предварительно кое-какие расчеты идут очень долго, пару дней. Матричные операции занимают не бОльшую часть времени, но значительную, да и надо с чего-то более простого начать - буду пытаться разобраться с вычислениями на GPU на примере матричных операций, а потом буду смотреть. Сейчас вывожу в файл и на графики для контроля и поиска ошибок, но если время работы значительно сократится, то особой необходимости в графиках не будет: одно дело ждать пару дней и в конце увидеть фигню, и совсем другое ждать один час, к примеру.
p.s. Можно еще пооптимизировать вычисления для CPU, но если вычисления на GPU дают значительно больший выигрыш по времени исполнения...

0

@taras atavin

И дисплей при этом полностью выключен?

0

@AndrSlav

Сейчас нет, но если будет надо, то могу поставить задачу на отдельный компьютер и не загружать его больше ничем.

0

Evg

Это не фреймворк. Тулкит для CUDA содержит в себе нано-компилятор, который на вход принимает программу на некотором птичьем языке, очень похожем на Си, в котором в одном файле перемешаны функции, выполняемые на CPU и на GPU. Далее этот нанокомпилятор парсит этот текст, превращая его в несколько исходников, которые в чистом виде компилируются либо только для CPU, либо только для GPU. В коды для CPU добавляются инструкции для копирования данных из CPU на GPU. И далее эти исходники по раздельности компилируются компилятором для CPU и компилятором для GPU. В тулките нету собственного компилятора для CPU, а потому в его качестве используется сторонний компилятор

Если хочешь переписать программу под GPU, то модули, требующие распараллеливания, однозначно надо переписать. Причём в отличие от OpenMP тут не получится по быстрому переключаться между последовательным и паралллельным режимами. При наличии навыков работы с препроцессором, хорошим пониманием того, как это всё работает и некоторого задротства можно путём приложения дополнительных усилий написать программу так, чтобы можно было быстро переключать программу из параллельного режима в последовательный (нужно для отладки)

При этом надо понимать, что GPU представляет собой большой кластер из очень маленьких и очень специализированных счётных процессоров, с весьма ограниченной системой команд, заточенной под алгоритмы обработки изображений. При этом, чтобы эти процессоры заработали, надо им загрузить данные, а потом забрать результат, а это отдельные действия, имеющие накладные расходы (по времени). Т.е. посчитать сумму двух чисел на GPU очень неэффективно, т.к. большую часть времени займёт процесс копирования входных данных с CPU на GPU и копирование результата с GPU на CPU

По поводу первых шагов в OpenMP: https://www.cyberforum.ru/blog... g2965.html
По поводу CUDA: Сандерс Дж., Кэндрот Э. - Технология CUDA в примерах (2011)

Добавлено через 3 минуты
Рассчёты на GPU никак не мешают работе видеокарты как средству вывода информации на экран. В видеокарте есть отдельно процессор, отдельно устройство вывода на экран. Другое дело, что всякие windows aero могут отжирать часть процессоров, но это означает всего лишь, что эти процессоры не будут использоваться при работе твоей программы

2

@Optimus11

Здравствуйте,

Правильно ли я понимаю, что тот же OpenCL позволяет распаралеливать задачи и на CPU ? Если да, то чем принципиально это отличается от использования многопоточности в с++ ?

0