PARALLEL.RU - Информационно-аналитический центр по параллельным вычислениям

Для удобного использования программных пакетов используйте систему Modules.

Прикладные программные пакеты

• Пакет Abinit
• Пакет Amber
• Пакет AmberTools
• Пакет Charm ++
• Пакет CP2K
• Пакет CRYSTAL-17
• Пакет Gmsh
• Пакет Gromacs
• Пакет Lammps
• Пакет Magma
• Пакет Matlab
• Пакет Molpro
• Пакет Namd
• Пакет NWChem
• Пакет Octave
• Пакет OpenFOAM
• Пакет Quantum Espresso
• Пакет Schrodinger (не актуален)
• Пакет TeraChem
• Пакет VASP
• Пакет WIEN2k

Прикладные библиотеки

• Anaconda
• Jupyter Notebook 
• Caffe
• Keras
• MATLAB_Runtime
• NCCL
• Numpy
• Opencv2-python
• Pytorch
• Scikit
• Scipy
• Singularity
• TensorFlow 
• Torchvision

Вспомогательное ПО

Компиляторы

• Компиляторы GNU
• Компиляторы Intel (языки C/C++, Fortran77/Fortran90)
• PGI compiler
• PathScale Compiler Suite
• Python

MPI

• OpenMPI
• Intel MPI Library
• Mvapich2

Средства анализа эффективности

• Intel VTune
• Intel Tools

Библиотеки

• CUDA
• Intel Math Kernel Library

 Использование GUI на кластере

• Проброс X 

Пакет Gmsh

Gmsh - это бесплатный трехмерный генератор конечноэлементных сеток со встроенными пре- и постпроцессорным.

Программа установлена на суперкомпьютере "Ломоносов-2".

Текущая версия ПО

 на Ломоносов-2 - 4.5.6

Для работы с пакетом загрузите модуль командой module add gmsh

Пакет Gromacs

GROMACS - пакет для решения задач молекулярной динамики, например, решения уравнений Ньютона для движения систем от сотен до миллионов частиц.Доступна версия пакета с поддержкой вычислений на GPU. Настроить окружение для работы с пакетом можно следующими командами:

magma_icc_comp -O3 -c test2.cpp -o test2.o
magma_icc_link test2.o -o magma_solve.out

icc -O3 -DADD_ -Wall -openmp -DMAGMA_WITH_MKL -DMAGMA_SETAFFINITY -DHAVE_CUBLAS -DMIN_CUDA_ARCH=200 -c test.cpp -o test.o
icc -fPIC -Xlinker -zmuldefs -DGPUSHMEM=200  test.o  -o a.out  -lmagma -lmagmablas -lmagma  -lmkl_intel_lp64 -lmkl_intel_thread -lmkl_core -lpthread -lcublas -lcudart -lm -openmp

Пакет OpenFOAM

На СК "Ломоносов" пакет собран в нескольких вариантах, но мы рекомендуем последнюю версию, установленную в каталог /opt/software/OpenFOAM-5.0. Перед использованием пакеты необходимо выполнить команду source /opt/software/OpenFOAM-5.0/etc/bashrc.

Программа установлена на суперкомпьютере "Ломоносов-2".

Путь в файловой системе, куда установлен пакет

 Суперкомпьютер "Ломоносов-2" (/opt/software/OpenFoam-5.0)

Пакет WIEN2k

Программа установлена на суперкомпьютере "Ломоносов-2". (/opt/software/wien2k/) Модуль - wien2k/17.1

Сайт: http://susi.theochem.tuwien.ac.at/

Anaconda

Пакет Anaconda2 позволяет скачать и установить разные версии Python и разнообразные API для Python, причем все API уже преднастроены и проверены, что значительно упрощает задачи по разработке и обучению нейронных сетей и других научных проектов.

Программа установлена на суперкомпьютере "Ломоносов-2".

Для того, чтобы воспользоваться пакетом Anaconda 2  в ssh сессии на Лом-2 нужно выполнить команду:

module load anaconda2/2.5.0

Эта команда подгружает в окружение вашей сессии окружение Python 2.7 anaconda, так же это окружение имеет ряд предустановленных API Python, ознакомиться со списком API можно командой:

conda list

Данное окружение может редактировать только администратор кластера.

Jupyter Notebook 

Jupyter Notebook - это веб-приложение с открытым исходным кодом, которое позволяет хранить вместе код, изображения, комментарии, формулы и графики. Включает в себя: очистку и преобразование данных, численное моделирование, статистическое моделирование, визуализацию данных, машинное обучение и многое другое.

Для использования на Ломоносов-2 нужно настроить проброс X

Caffe 

Среда для глубинного обучения, разработанная Янцином Цзя (Yangqing Jia) в процессе подготовки своей диссертации в университете Беркли. Caffe является открытым программным обеспечением, распространяемым под лицензией BSD license. Написано на языке C++, и поддерживает интерфейс на языке Python. Доступная версия caffe version 1.0.0

/opt/ccoe/caffe

Технические и другие вопросы можно задать тут​

Подробнее о Caffe

Программа установлена на суперкомпьютере "Ломоносов-2".

Keras

Keras - это высокоуровневый API нейронных сетей, написанный на Python и способный работать поверх TensorFlow, CNTK или Theano. Он был разработан с упором на возможность быстрого экспериментирования.

Keras позволяет:

   -Легко и быстро создавать прототипы (благодаря удобству, модульности и расширяемости).
   -Поддерживает как сверхточные сети, так и повторяющиеся сети, а также комбинации этих двух.
   -Поддерживает работу на процессоре (CPU) и графическом процессоре (GPU).

Программа установлена на суперкомпьютере "Ломоносов-2".

MATLAB_Runtime

MATLAB Runtime - это автономный набор общих библиотек, который позволяет выполнять скомпилированные приложения или компоненты MATLAB. Пакет распространяется под лицензией MATLAB RUNTIME LICENSE если вы запускаете с помощью данного пакета скомпилированные приложения Matlab.

Текущая версия ПО

2021b

Путь в файловой системе, куда установлен пакет

Программа установлена на суперкомпьютере "Ломоносов-2".

/opt/software/MATLAB_Runtime/2021b

NCCL

NCCL это примитивы коллективной связи между несколькими графическими процессорами на одном узле или между узлами с графическими процессорами NVIDIA данное решение оптимизированно для высокой пропускной способности по PCIe и NVLink

Программа установлена на суперкомпьютере "Ломоносов-2".

Название и версия ПО

NVIDIA Collective Communications Library

Текущая версия ПО

2.3.5

Пакет коммерческий/свободный

Пакет свободный распространяется под лицензией BSD

Путь в файловой системе, куда установлен пакет 

/opt/ccoe/nccl

Numpy

NumPy - это фундаментальный пакет для научных вычислений с Python.

Функционал NumPy:
 -Поддержка многомерных объектов, массивов и матриц, вместе с большой библиотекой высокоуровневых математических функций для операций с этими массивами
 -Инструменты для интеграции кода C / C ++ и Fortran
 -Numpy используют для представления векторов, матриц и тензоров, преобразование Фурье и возможности случайных чисел.

Помимо очевидных научных применений, NumPy можно также использовать в качестве эффективного многомерного контейнера общих данных, могут быть определены произвольные типы данных. Это позволяет NumPy легко и быстро интегрироваться с широким спектром баз данных.

Программа установлена на суперкомпьютере "Ломоносов-2".

Opencv2-python

OpenCV (Open Source Computer Vision) - это библиотека, ориентированная на компьютерное зрение в реальном времени. Библиотека является межплатформенной и бесплатной для использования в рамках лицензии BSD с открытым исходным кодом.
OpenCV поддерживает системы глубокого обучения TensorFlow, Torch / PyTorch и Caffe.

Программа установлена на суперкомпьютере "Ломоносов-2".

Pytorch

PyTorch — библиотека машинного обучения библиотека для языка Python с открытым исходным кодом, созданная на базе Torch. Используется для обработки естественного языка. В первую разрабатывается группой искусственного интеллекта Facebook.

PyTorch предоставляет две основные высокоуровневые модели

• Тензорные вычисления (по аналогии с NumPy) с развитой поддержкой ускорения на GPU
• Глубокие нейронные сети на базе системы autodiff

Программа установлена на суперкомпьютере "Ломоносов-2".

Scikit

Scikit-image — это библиотека обработки изображений с открытым исходным кодом для языка программирования Python.  Она включает в себя алгоритмы сегментации, геометрические преобразования, манипуляции с цветовым пространством, анализ, фильтрацию, морфологию, обнаружение признаков и т. Д. Он предназначен для взаимодействия с численными и научными библиотеками Python NumPy и SciPy.

Программа установлена на суперкомпьютере "Ломоносов-2".

Scipy

SciPy — библиотека для языка программирования Python с открытым исходным кодом, предназначенная для выполнения научных и инженерных расчётов.

Основной структурой данных в SciPy является многомерный массив, реализованный модулем NumPy:

•   поиск минимумов и максимумов функций
•   вычисление интегралов функций
•   поддержка специальных функций
•   обработка сигналов
•   обработка изображений
•   работа с генетическими алгоритмами
•   решение обыкновенных дифференциальных уравнений

Библиотека SciPy распространяется по условиям лицензии BSD.

Программа установлена на суперкомпьютере "Ломоносов-2".

Singularity

Singularity - это кроссплатформенная программа с открытым исходным кодом которая выполняет виртуализацию на уровне операционной системы (контейнеризация). Singularity поддерживает высоко производительные интерконекты такие как InfiniBand и Omni-Path, и так же OpenMPI библиотеки. Данные функции позволяют успешно использовать Singularity в таких областях как machine learning, deep learning.

Текущая версия ПО

3.0.1-168.gcc17206

Программа установлена на суперкомпьютере "Ломоносов-2".

Путь в файловой системе, куда установлен пакет:

/opt/ccoe/singularity/

 Для использования загрузите модуль

module load singularity

Tensorflow

Открытая  программная библиотека для машинного обучения, разработанная компанией Google для решения задач построения и тренировки нейронной сети с целью автоматического нахождения и классификации образов, достигая качества человеческого восприятия Применяется как для исследований, так и для разработки собственных продуктов Google. Основное API для работы с библиотекой реализовано для Python, также существуют реализации для C++, Haskell, Java, Go и Swift.

Является продолжением закрытого проекта DistBelief. Изначально TensorFlow была разработана командой Google Brain для внутреннего использования в Google, в 2015 году система была переведена в свободный доступ с открытой лицензией Apache 2.0. 

 /opt/software/Anaconda2

Контакты для технической поддержки.

Подробнее о TensorFlow

Программа установлена на суперкомпьютере "Ломоносов-2".

Torchvision

TorchVision - это библиотека для управления изображениями. Она содержит служебные функции для обработки изображений, для того чтобы их было можно использовать в нейронных сетях. В нем так же размещаются популярные наборы изображений (datasets), архитектуры моделей и общих преобразований изображений для компьютерного зрения.

Программа установлена на суперкомпьютере "Ломоносов-2".

Компиляторы GNU

набор компиляторов для различных языков программирования, разработанный в рамках проекта GNU. GCC является свободным программным обеспечением, распространяется фондом свободного программного обеспечения (FSF) на условиях GNU GPL и GNU LGPL и является ключевым компонентом GNU toolchain. Он используется как стандартный компилятор для свободных UNIX-подобных операционных систем.

Для использования компиляторов используйте модуль gcc/VERSION.

Программа установлена на суперкомпьютере "Ломоносов-2".

Характеристики компиляторов GNU

Сайт: http://gcc.gnu.org/

Компиляторы Intel (языки C/C++, Fortran77/Fortran90)

поддерживают и различные уровни оптимизации для 32-х и 64-х разрядных приложений в одном пакете, и технологию параллельного программирования OpenMP, что позволяет создавать эффективные программы для современных многоядерных процессоров. С компиляторами поставляется символьный отладчик Intel Debugger, который может работать в режимах совместимости с gdb или dbx и интегрируется с такими графическими оболочками для отладки, как ddd, Eclipse, Allinea. Отладчиком поддерживаются как многонитевые приложения OpenMP, так и написанные с использованием интерфейса native threads. Порожденные нити автоматически попадают под контроль отладчика, причем большинство его команд можно применять либо к одной, либо ко всем нитям одновременно.

Программа установлена на суперкомпьютере "Ломоносов-2".

Для Суперкомпьютер "Ломоносов-2" требуется загрузка модуля intel

Подробнее о средствах Intel - тут

Подробнее о компиляторах Intel

Характеристики компиляторов Intel
Сайт: https://software.intel.com/en-us/mpi-library

Intel VTune

новейший профилировщик производительности Inte VTune™ Amplifier XE создан на базе популярного анализатора производительности Intel. Он включает все функции Intel Parallel Amplifier, а также ряд дополнительных функциональных возможностей, специально предназначенных для разработчиков, которым нужен более комплексный подход.

Программа установлена на суперкомпьютере "Ломоносов-2".

Для Суперкомпьютер "Ломоносов-2" требуется загрузка модуля vtune.

Текущая версия: 
Сайт:https://www.intel.com/content/www/us/en/developer/tools/oneapi/vtune-profiler.html#gs.mncb7i

Intel Tools

Для программирования на кластерах используются компиляторы Intel, оптимизированная параллельная математическая библиотека Intel Cluster MKL и специальный инструмент Intel Trace Analyzer & Collector, предназначенный для создания эффективных масштабируемых параллельных программ.

Intel MPI Library

Внимание, использование Intel MPI на Ломоносов-2 не поддерживается, используйте на свой страх и риск.

Библиотека Intel® MPI Library повышает производительность приложений в кластерах на базе архитектуры Intel®, реализуя высокопроизводительную спецификацию MPI-2 в нескольких инфраструктурах. Благодаря использованию данной библиотеки обеспечивается максимальная производительность конечного пользователя даже при изменении или обновлении межкомпонентных соединений. При этом значительные модификации программного обеспечения или операционной среды не требуются. Воспользуйтесь этой высокопроизводительной библиотекой интерфейса прохождения сообщений для разработки программ, которые могут работать в нескольких кластерных коммуникационных соединениях, выбранных пользователем в процессе выполнения приложения. Корпорация Intel также предоставляет бесплатный комплект рабочей среды для продуктов, разработанных при помощи библиотеки Intel MPI. Обеспечьте себе наилучшую в своем классе эффективность работы высокопроизводительных вычислительных систем корпораций, подразделений, отделов и рабочих групп

Программа установлена на суперкомпьютере "Ломоносов-2".

Для Суперкомпьютер "Ломоносов-2" требуется загрузка модуля impi.

Подробнее о средствах Intel - тут

Сайт: https://software.intel.com/en-us/mpi-library/documentation/get-started

PGI compiler

PGI Workstation -комплект компиляторов и инструментов для научных и инженерных целей. PGI Workstation доступен в редакциях для Fortran и C/C++. Включает в себя компиляторы Fortran 2003, FORTRAN 77,HPF для распараллеливания и оптимизации ПО,компиляторы OpenMP C++ и ANSI C. Компилятор C++ следует за ANSI-стандартом и поддерживает cfront версий 2 и 3. Все функции С++ совместимы с функциями Fortran и С. PGI Workstation включает в себя параллельного отладчика PGDBG OpenMP и MPI и компонент оптимизации профиля PGPROF, которые могут удалять баги и профилировать до восьми локальных MPI-процессов.Также содержит предварительно скомпилированную библиотеку передачи сообщений MPICH. Присутствует поддержка CUDA Fortran, ACML, OpenACC,  FMA4

Программа установлена на суперкомпьютере "Ломоносов-2".

Версия: 2022/221.

Подробнее о PGI

Сайт: https://www.pgroup.com/index.htm

CUDA

Библиотека CUDA позволяет использовать ресурсы GPU NVidia.

Программа установлена на суперкомпьютере "Ломоносов-2".

Для Суперкомпьютер "Ломоносов-2" требуется загрузка модуля cuda/VERSION  

Сайт: https://developer.nvidia.com/cuda-zone

Intel Math Kernel Library

широко используется для решения вычислительно сложных задач, где от платформ Intel требуется максимальная производительность. К функциональным возможностям этой библиотеки можно отнести модули линейной алгебры (BLAS, Sparse BLAS, LAPACK, Scalapack, FFTW и пакет Sparse Solvers), функции быстрых преобразований Фурье (FFT), векторные математические функции (VML), генераторы случайных чисел.

Программа установлена на суперкомпьютерах "Ломоносов" и "Ломоносов-2".

Для Суперкомпьютер "Ломоносов-2" требуется загрузка модуля mkl

Подробнее о средствах Intel - тут
Сайт: https://www.intel.com/content/www/us/en/developer/tools/oneapi/onemkl.html

OpenMPI

Open MPI является наследником LAM/MPI и поддерживается консорциумом партнеров  из областей науки, разработчиков и производителей. OpenMPI – открытая бесплатная реализация технологии MPI-2. Она может использоваться для проведения параллельных расчётов на вычислительных кластерах.

• полная поддержка MPI-2;
• работа в  гетерогенной среде;
• Поддержка работы под управлением системы очередей;
• Работа в 32- и 64-битных средах;
• Высокая производительность на всех платформах;
• Высокая переносимость;
• Хорошая масштабируемость;

Программа установлена на суперкомпьютерах "Ломоносов" и "Ломоносов-2".

Для Суперкомпьютер "Ломоносов-2" требуется загрузка модуля openmpi, для запуска программ используйте скрипт-обёртку ompi: sbatch ... ompi myprogram

Сайт: https://www.open-mpi.org/

Mvapich2

Mvapich - одна из известных реализаций MPI. Поддерживается стандарт MPI-3, оптимизирована работа с GPU (GPU-GPU, GPU-Host and Host-GPU) через GPUDirect RDMA.

Программа установлена на суперкомпьютере "Ломоносов-2".

Для Суперкомпьютер "Ломоносов-2" требуется загрузка модуля mvapich, для запуска программ используйте скрипт-обёртку mvapich: sbatch ... mvapich myprogram

Сайт: http://mvapich.cse.ohio-state.edu

Python

Python — высокоуровневый язык программирования, ориентированный на повышение производительности разработчика и читаемости кода. Пакет свободный распространяется под лицензией Python Software Foundation License. Для установки нужной версии Python на Ломоносов-2 используется Пакет anaconda он позволяет создать окружение Python и устанавливать API для него.

Программа установлена на суперкомпьютере "Ломоносов-2".