Руководство пользователя вычислительного кластера




Скачать 324.34 Kb.
НазваниеРуководство пользователя вычислительного кластера
страница1/2
ТипРуководство пользователя
rykovodstvo.ru > Руководство ремонт > Руководство пользователя
  1   2
УТВЕРЖДАЮ

Ректор ГОУ ОГУ

__________________

В.П. Ковалевский

«__»__________2008г.

Руководство пользователя вычислительного кластера

Оренбургского государственного университета
Данное руководство предназначено для работы на вычислительном кластере Оренбургского государственного университета. Руководство содержит минимально необходимый объем информации для работы: описание процесса регистрации, сведения по работе в ОС Linux (вход в систему, работа с каталогами и файлами, мониторинг) и работе с MPI программами и непараллельными программами на кластере (компиляция, запуск, остановка, работа с очередями). В тексте под термином параллельная программа подразумеваются только MPI программы.

По мере обновления существующего программного обеспечения вычислительного кластера, добавления новых прикладных программ, программных комплексов и библиотек обновляется также данное руководство. В связи с этим возможно некоторое несоответствие руководства с действительностью, некоторые вещи могут быть описаны недостаточно подробно, описание некоторых может вообще отсутствовать. В случае возникновения затруднений в использовании данного руководства, обнаружения ошибок и неточностей или возникновения других замечаний и предложении по улучшению руководства обращайтесь к администратору вычислительного кластера по электронной почте cluster@mail.osu.ru. Последнюю версию руководства пользователя можно получить по адресу ftp://fileserver1.net.osu.ru/Cluster/cluster_users_manual.doc в локальной вычислительной сети Оренбургского государственного университета (ОГУ) или на официальном сайте ОГУ http://www.osu.ru/img/department/cit/docs/cluster_users_manual.doc через Интернет, а также обратившись к администратору кластера в аудиторию 170315 или по указанному выше адресу электронной почты.
1 Регистрация

Для регистрации пользователя вычислительного кластера руководителю подразделения необходимо написать заявку в форме служебной записки на имя проректора по информатизации, в которой указать полностью ФИО всех лиц, кому нужно предоставить доступ, указать цели использования кластера и описать круг задач, решаемых на кластере. После указания проректора, пользователю необходимо обратиться к администратору вычислительного кластера в аудиторию 170315 для получения пароля, предварительно заполнив Форму регистрации пользователя вычислительного кластера. Форму регистрации можно получить по адресу ftp://fileserver1.net.osu.ru/Cluster/cluster_form_registration.doc или http://www.osu.ru/img/department/cit/docs/cluster_form_registration.doс. Заполняя Форму регистрации, пользователь соглашается с правилами использования ресурсов вычислительного кластера, ознакомиться с которыми можно по адресу ftp://fileserver1.net.osu.ru/Cluster/cluster_rules.doc.

В случае регистрации студента, в Форме регистрации должен расписаться как студент, так и его научный руководитель. Пароль сообщается заявителю лично.

После регистрации пользователь получает системное имя (логин), пароль и домашнюю директорию. Например, логин – ivanov_ip, пароль – s1R46n20, домашняя директория - /home/ivanov_ip.
2 Вход в систему

Пользователь имеет возможность работать на вычислительном кластере с любого компьютера, находящегося в локальной вычислительной сети Оренбургского государственного университета. При необходимости возможен доступ к кластеру через Интернет. Для входа в систему пользователя из локальной вычислительной сети Оренбургского государственного университета, необходимо использовать адрес сервера cluster.net.osu.ru, для доступа через Интернет – адрес cluster.osu.ru. В качестве имени пользователя используется логин и пароль, указанные при регистрации.

Работа с системой осуществляется по защищенному протоколу SSH (Secure Shell). Для этого необходимо иметь соответствующее клиентское программное обеспечение, различающееся для разных операционных систем.
2.1 Вход с Windows-машины

Работа с системой осуществляется посредством любого ssh-клиента, работающего в ОС Windows. Рекомендуется использовать клиент PuTTY. Программа свободно распространяема, проста в использовании и доступна для пользователей локальной вычислительной сети Оренбургского государственного университета по адресу ftp://fileserver1.net.osu.ru/install/Internet/PuTTY/putty-0.58-installer.exe (установочная версия) или в Интернете по адресу http://www.chiark.greenend.org.uk/~sgtatham/putty/download.html.

После запуска программы пользователь должен выбрать протокол ssh и в поле «Host Name (or IP address)» указать адрес сервера (cluster.net.osu.ru при работе в сети университета или cluster.osu.ru при работе через Интернет). Нажатие на «Open» приведет к отправке запроса на подключение. В случае успешного подключения к серверу будет предложено ввести имя (логин), а затем и пароль.

При вводе пароля символы на экране не отображаются. Если все введено правильно, то пользователь автоматически окажется в своей домашней директории. Этот каталог доступен пользователю с любого узла вычислительного кластера.

На кластере существует единое дисковое пространство. Все узлы используют дисковый массив сервера посредством сетевой файловой системы NFS (Network File System). Файл, записанный в домашней директории пользователя на одном из узлов кластера, автоматически становится доступен на любом другом. Поскольку размер жесткого диска сервера ограничен, пользовательские программы не должны создавать временные файлы в домашней директории. Для этих целей существует директория /tmp для малых файлов и директория /usr/tmp для больших (свыше 1 Гбайт) файлов.

Работа в ssh-сессии происходит в терминальном (текстовом, консольном) режиме. Необходимо помнить, что консоль Linux, в отличие от Windows, различает регистр вводимых символов, т.е. mydoc.txt и mydoc.TXT не одно и то же.
2.2 Вход с Unix/Linux машины

Как правило, в любой дистрибутив Unix/Linux входит терминальный ssh-клиент. Минимальный формат команды для подключения из сети университета таков:
ssh -l имя_пользователя cluster.net.osu.ru
или
ssh имя_пользователя@cluster.net.osu.ru
Для подключения через Интернет необходимо заменить cluster.net.osu.ru на cluster.osu.ru.

Большинство пользователей UNIX-подобных систем знакомо с протоколом SSH, поэтому трудностей с подключением у них возникнуть не должно.
3 Копирование файлов

При копировании файлов с компьютера на вычислительный кластер (программы, входные данные, различные библиотеки и т.п.) и обратно (листинги, результаты расчетов) пользователем должен использоваться протокол sftp. Этот протокол обеспечивает необходимую защиту передаваемой информации посредством шифрования всех передаваемых данных.
Примечание:

Хотя протокол sftp обеспечивает защиту передаваемых данных, защита данных на кластере (в домашней директории) целиком и полностью задача пользователя. Рекомендуется установить права доступа на домашнюю директорию только для пользователя. Это можно сделать командой chmod 700 /home/имя_пользователя. Для получения более полной информации необходимо обратить к любому руководству пользователя Linux.
Копирование файлов осуществляется при помощи утилиты scp (для Windows-пользователей, использующих PuTTY – pscp). Формат этой команды эквивалентен стандартной команде копирования файлов cp.

Ниже представлен пример команды в Windows для копирования в локальной вычислительной сети Оренбургского государственного университета пользователем test_user папки program и всех ее подпапок в домашнюю директорию на кластере:
pscp.exe –r ./program test_user@cluster.net.osu.ru:$HOME
В этом примере была использована утилита pscp из пакета PuTTY. Первым обязательным параметром этой команды является копируемый файл (папка) – источник. В показанном примере это ./program. Ключ -r указывает на рекурсивное копирование всех подкаталогов. test_user@cluster.net.osu.ru:$HOME – адрес приемника. Формат адреса: имя_пользователя@адрес_узла_назначения:файл_или_папка_приемник. $HOME является стандартной переменной окружения, содержащей расположение домашней папки пользователя. В данном случае $HOME эквивалентно /home/test_user.
Многие пользователи Windows возможно предпочтут пользоваться более привычными графическими оболочками. Существует свободно распространяемая программа WinSCP, представляющая собой клиент в стиле проводника Windows или Norton Commander по выбору пользователя. Скачать программу можно из локальной вычислительной сети Оренбургского государственного университета по адресу ftp://fileserver1.net.osu.ru/install/Internet/sftp/winscp382setupintl2.exe, пакет русификации по адресу ftp://fileserver1.net.osu.ru/install/Internet/sftp/ru.zip. Кроме того, существует плагин для Far Manager, также доступный по адресу ftp://fileserver1.net.osu.ru/install/Internet/sftp/winscpfar151setup.exe. Данный плагин устанавливается автоматически и почти не требует настроек. Для любой из программ настройки минимальны: адрес сервера и порт номер 22.

Примечание:

Максимальный размер домашней директории пользователя может быть ограничен. Пользователям не следует хранить на сервере файлы, не относящиеся напрямую к заявленным в Форме регистрации целям.
4 Работа на кластере

Для работы на вычислительном кластере удобно пользоваться файловым менеджером Midnight Commander, который включает редактор текстовых файлов. Универсальным способом работы на кластере является работа через консоль. Оба способа кратко описаны ниже.
4.1 Структура файловой системы

Пользователю следует запомнить месторасположение основных программ, которые могут понадобиться для работы на вычислительном кластере.

Директория /share доступна с любого узла кластера. В данной директории хранятся следующие программы и данные:

/share/home/<имя_пользователя> – домашние директории пользователей, данные пользователей,

/share/mpi – различные дистрибутивы MPI (в том числе устаревшие),

/share/lib/atlas – библиотека численных методов ATLAS,

/share/lib/gotoblas – библиотека численных методов GotoBLAS,

/share/lib/mkl – библиотека численных методов Intel Math Kernel Library,

/share/openmpi – текущая версия MPI-дистрибутива OpenMPI,

/share/mvapich – текущая версия MPI-дистрибутива MVAPICH,

/share/mvapich2 – текущая версия MPI-дистрибутива MVAPICH2.
4.2 Навигация

На кластере пользователю доступен на запись только его домашний каталог и каталог /tmp для временно создаваемых файлов. Для работы с файлами и каталогами существует несколько полезных команд:

ls Показать список папок и файлов в текущем каталоге

pwd Показать имя текущего каталога

cd название_каталога Сменить каталог

mkdir название_каталога Создать каталог

clear Очистка экрана

cp что куда Копирование файлов и каталогов

mv что куда Перемещение файлов и каталогов
Примечание:

Подробную справку по этим командам, а также по всем другим можно получить, набрав в консоли man имя_команды. Для эффективной работы с консолью рекомендуется обратиться к руководству пользователя операционной системы Linux.
При работе в консоли удобно пользоваться клавишей автоподстановки Tab. Если, набрав несколько первых символов программы или файла пользователь нажмет на клавишу Tab, то система дополнит их до полного имени, если имеется только единственный вариант дополнения. Если вариантов несколько, то появится их список. Введение дополнительных символов, которые однозначно определяют нужное имя и нажатие клавиши Tab приводит к выбору нужного имени файла или команды.
Запустить файловый менеджер Midnight Commander можно, набрав в консоли команду mc. Интерфейс Midnight Commander внешне похож на FAR или Norton Commander. Midnight Commander позволяет пользователю работать в консольном режиме более удобным и привычным способом.
Примечание:

При недостаточной пропускной способности соединения (особенно через Интернет) использование mc может сильно замедлить заботу, поскольку тратится время на прорисовку интерфейса. В этом случае рекомендуется пользоваться исключительно консольными командами.
4.3 Редактирование файлов

Пользователю рекомендуется основную часть исходных файлов подготавливать на своем локальном компьютере в привычных текстовых редакторах. Для внесения небольших изменений в файлы хорошо подходит встроенный в mc редактор.

В этом редакторе присутствуют все основные средства, имеющиеся в подобных программах: копирование, вставка, поиск, замена, подсветка синтаксиса, ряд других.
Если необходимы более сложные средства редактирования, то можно использовать редактор vi. Основная функция vi — работа с исходными текстами программ. Достоинства данного редактора в большом количестве функций, быстроте работы (редактор полностью консольный). Недостаток редактора – достаточно сложное управление, которое нельзя назвать интуитивно понятным пользователям, привыкшим к работе в ОС Windows. За полным перечнем доступных команд редактора vi рекомендуется обратиться к соответствующим руководствам, поскольку описание всех его команд и функций выходит за рамки данного руководства.

Запустить vi можно командой:
vi имя_файла.
4.4 Компиляция MPI-программ

В настоящий момент пользователю доступны следующие реализации (дистрибутивы) стандарта MPI: MVAPICH, MVAPICH2, OpenMPI. Каждая реализация поддерживает три языка программирования: СИ (компилятор gcc), СИ++ (компилятор g++) и Фортран-77 (компилятор f77).

Кроме того, установлены компиляторы Intel Fortran Compiler for Linux версии 9.1 и 10.1, поддерживающие Фортран-90. Данные компиляторы предоставлены для использования в некоммерческих целях и не поддерживаются библиотекой MPI напрямую (необходимо подключать необходимые библиотеки вручную, используя опцию -L). Подробнее об использовании компиляторов Intel можно узнать, прочитав документацию к компилятору в /opt/intel/fc/<номер версии>/doc.
Для компиляции параллельных программ следует использовать следующие команды:

- mpicxx для компиляции программы на языке C или C++;

- mpicc для компиляции программы на языке C;

- mpif77 для компиляции программы на языке Фортран 77.
Основные параметры для всех трёх компиляторов одинаковы. В простейшем случае скомпилировать С++ программу можно так:
/share/openmpi/bin/mpicxx –o test ./test.cpp
Для Fortran-77:
/share/openmpi/bin/mpif77 -o test ./test.f

В данном примере показан пример компиляции параллельной программы с использованием MPI из дистрибутива OpenMPI. Это значит, что для запуска этой программы необходимо использовать команды дистрибутива OpenMPI именно той версии, с помощью которой была выполнена компиляция и никакого другого. Узнать версию OpenMPI можно при помощи команды /share/openmpi/bin/ompi_info (номер версии выводится в самом начале). Рекомендуется запомнить версию OpenMPI, в случае обновления предыдущие версии дистрибутива можно найти в директории /share/mpi.

Следующим образом ту же программу можно скомпилировать, используя дистрибутив MVAPICH2:
/share/mvapich2/bin/mpicxx –o test ./test.cpp
Для Fortran-77:
/share/mvapich2/bin/mpif77 -o test ./test.f
Как и в предыдущем случае, запускать скомпилированную таким образом программу можно только при помощи дистрибутива MVAPICH2 соответствующей версии, номер которой можно узнать при помощи команды /share/mvapich2/bin/mpich2version. Соответственно, при обновлении версии дистрибутива MPI необходимо заново провести компиляцию прикладных программ (что рекомендуется) или найти предыдущий дистрибутив в директории /share/mpi и использовать его для запуска.

Примеры запуска параллельных программ в различных дистрибутивах MPI приведены ниже.
Примечание:

В ОС Windows исполняемые файлы имеют определенное расширение: exe, bat, cmd, com и ряд других. Файлы только таких типов могут быть выполнены. В Linux исполняемые файлы определяются не их расширением, а установкой битов выполнения. Следующей командой в Linux можно сделать исполняемым любой файл, независимо от расширения: chmod 755 <имя_файла>.
О других параметрах компиляторов можно узнать, набрав в консоли man g++, man gcc, man g77 или обратившись к соответствующим руководствам.
Примечание:

Практически все реализации MPI поддерживают запуск параллельных приложений в режиме эмуляции на отдельно взятой рабочей станции. Это можно делать как на Linux, так и Windows машинах.

В Linux рекомендуется использовать пакет mvapich2, а для создания MPI приложений на Windows машинах можно использовать пакет MPICH2 в версии для Windows (http://www.mcs.anl.gov/mpi/mpich/mpich-nt). Для успешного портирования программ с Windows на Linux не следует использовать расширения предоставляемые средами программирования, такими как VisualStudio и BorlandBuilder.

Подготовленные исходные коды программ, проверенные и отлаженные на локальном компьютере, рекомендуется компилировать на кластере под определенную версию дистрибутива MPI. Только в этом случае можно гарантировать успешное выполнение программы. Если использование исходного кода по каким-либо причинам невозможно или нецелесообразно, возможно исполнение бинарных файлов форматов: elf, a.out, скомпилированных под Linux. При этом необходимо придерживаться следующих рекомендаций:

  • Следует учитывать архитектуру процессора. Не следует применять оптимизацию, доступную на других архитектурах, например технологию 3DNow в процессорах AMD.

  • Совпадение версий динамически подключаемых библиотек. При несовпадении версий следует использовать статическую сборку — ключ "-static".

  • Совпадение версии дистрибутива MPI. Локальные параллельные библиотеки пользователя должны быть собраны с этой же версией MPI.


4.5 Запуск программ

Для запуска задач на вычислительном кластере Оренбургского государственного университета необходимо пользоваться менеджером ресурсов Torque. Кратко это можно описать следующим образом: пользователь готовит файл задачи для Torque и ставит его в очередь командой qsub. При этом пользователь запрашивает необходимые для этой задачи ресурсы: число узлов кластера, число процессоров на каждом из них, необходимое количество оперативной памяти и время выполнения задачи.

Если запрошенные ресурсы не противоречат имеющимся настройкам кластера и очереди (т.е., вы не просите, например, больше процессоров, чем их физически есть), задание будет поставлено в очередь. После этого, как только образуются свободные ресурсы на кластере, соответствующие запрашиваемым, Torque запустит задание.

Файл задачи представляет собой обычный командный файл, который настраивает нужные переменные среды (пути, расположение временных каталогов, файлов с данными и выходных файлов) и запускает программу пользователя. Кроме того, внутри файла вы можете получить данные от Torque через ее специальные переменные среды.

Спецификация необходимых ресурсов может быть осуществлена в qsub с помощью ключей командной строки, особенно
  1   2

Похожие:

Руководство пользователя вычислительного кластера iconТомский политехнический университет
Лаборатория мультифизического моделирования на базе вычислительного кластера «скиф-политех»

Руководство пользователя вычислительного кластера iconИнструкция по использованию вычислительного кластера т-платформы tedge-48 Версия 2
ГГц и 8 Гбайт оперативной памяти. Кроме того, есть управляющий модуль, предназначенный для компиляции и запуска задач, с файловым...

Руководство пользователя вычислительного кластера iconПрограмма развития туристско-рекреационного кластера Мурманской области на 2015-2017 г г
Описание кластера и факторы, определяющие его текущее положение в экономике. 5

Руководство пользователя вычислительного кластера iconПошаговое руководство по настройке двухузлового отказоустойчивого...
В настоящем руководстве приводятся инструкции по установке и настройке отказоустойчивого кластера для сервера печати с двумя узлами....

Руководство пользователя вычислительного кластера iconРуководство для пользователей linux кластера лит оияи
В нашем «Руководстве для пользователей Linux кластера лит оияи» обобщен опыт работы на данном кластере и содержатся основные сведения,...

Руководство пользователя вычислительного кластера iconРуководство пользователя
Мы гордимся тем, что предлагаем нашему потребителю новейшую и высококачественную продукцию для караоке. Перед эксплуатацией устройства,...

Руководство пользователя вычислительного кластера iconПрограмма развития биотехнологического инновационного территориального...
Директор Некоммерческого партнерства «Содействие развитию Биотехнологического кластера Пущино»

Руководство пользователя вычислительного кластера iconРуководство по эксплуатации версия 0,июль 2015
Внимание! Перед началом работы внимательно прочтите данное руководство пользователя. Данное руководство пользователя является неотъемлемой...

Руководство пользователя вычислительного кластера iconРуководство по эксплуатации версия 0, ноябрь 2015 (код 21-10-02)
Внимание! Перед началом работы внимательно прочтите данное руководство пользователя. Данное руководство пользователя является неотъемлемой...

Руководство пользователя вычислительного кластера iconРуководство пользователя Беспроводная микрофонная система vhf-диапазона Ritmix rwm-220
Перед использованием внимательно прочитайте руководство пользователя, убедитесь в том, что вы знаете, как использовать систему правильно....

Руководство пользователя вычислительного кластера iconПрограмма развития кластера высокотехнологичного машиностроения и приборостроения 2016
Паспорт программы развития Кластера высокотехнологичного машиностроения и приборостроения 4

Руководство пользователя вычислительного кластера iconРуководство пользователя Код документа: 54819512. 09. 01,03. 09....
Руководство пользователя «арм рбс» создано для прикладного программного обеспечения «Система удаленного финансового документооборота»...

Руководство пользователя вычислительного кластера icon15 руководство пользователя
Просим уделить время для внимательного изучения инструкций в настоящем Руководстве пользователя. Это поможет вам надлежащим образом...

Руководство пользователя вычислительного кластера iconПрограммный комплекс «web Торги-кс» Руководство пользователя Руководство...
Настоящий документ является руководством пользователя программного комплекса «web-торги-кс» и содержит описание порядка работы казенных...

Руководство пользователя вычислительного кластера iconРуководство пользователя 11 8 Операция «Первичный запрос»
Руководство пользователя сервисного концентратора Министерства обороны Российской Федерации

Руководство пользователя вычислительного кластера iconРуководство пользователя 7 1 Операция «SendPguRequest»
Руководство пользователя электронного сервиса предоставления информации о разрешениях на строительство/на ввод в эксплуатацию


Руководство, инструкция по применению






При копировании материала укажите ссылку © 2018
контакты
rykovodstvo.ru
Поиск