Основной курс

Теория параллельных процессов

Спецкурсы

1. Архитектура суперкомпьютерных систем, (п/год), Сапетина А.Ф.

2. Нейрокомпьютерные системы, (год), к.т.н., доцент Тарков М.С.

3. Квантовые компьютеры, (п/год), к.т.н., доцент Тарков М.С.

4. Распределенные алгоритмы, (п/год), к.т.н., доцент Тарков М.С.

5. Параллельные вычислительные технологии математического моделирования, (п/год), д.ф.м.н. Куликов И.М.

6. Параллельные вычислительные методы, (п/год), д.ф.м.н., профессор Вшивков В.А., Ph.D. Вшивков К.В.

 

Спецсеминары

1. Высокопроизводительные вычисления, (год), д.т.н., профессор Глинский Б.М.

2. Математическое моделирование больших задач, (год), д.ф.м.н., профессор Вшивков В.А.

Научные руководители

Описание спецкурсов

Архитектура суперкомпьютерных систем

Основной целью освоения дисциплины является изучение основ организации параллельной/распределенной обработки информации, и систематизация знаний об эволюции и архитектурных особенностях высокопроизводительных вычислительных систем.

 Для достижения поставленной цели выделяются следующие задачи курса:

·         знакомство с организацией архитектуры, интерфейсов и памяти современных суперкомпьютеров,

·         изучение подходов к разработке суперкомпьютеров,

·         знакомство с основами и способами организации высокопроизводительных вычислительных систем, примеры реализации современных суперкомпьютеров,

·         сдача экзамена в соответствии с учебным планом.

В начале курса рассматриваются типы и модели параллельной обработки, назначение и области применения суперЭВМ, способы оценки их производительности. Далее представляются традиционные параллельные архитектуры и известные классификации архитектур такого типа. Также затрагиваются особенности организации нетрадиционных параллельных архитектур-потоковых ЭВМ и архитектуры с параллелизмом на уровне машинных команд (суперскалярные, VLIW- и EPIC-архитектуры). Особое внимание уделяется архитектурам современных параллельных вычислительных систем: массивно-параллельных компьютеров с распределенной памятью (МРР); симметричных многопроцессорных систем с общей памятью (SMP); NUMA-систем; векторно-параллельных систем; кластерных систем; систем с графическими ускорителями Nvidia  и сопроцессорами Intel Xeon Phi.

Приводятся примеры построения и использования вычислительных систем Центра коллективного пользования «Сибирский суперкомпьютерный центр» (МРР, SMP, гибридные архитектуры), http://www.sscc.icmmg.nsc.ru/. Организуется экскурсия на этот центр.

Работает годовой семинар кафедры Вычислительных систем НГУ и Сибирского суперкомпьютерного центра «Высокопроизводительные вычисления».

Некоторые Интернет-ресурсы:

1.        http://parallel.ru/ -  Материалы информационно-аналитического центра по параллельным вычислениям

2.      www.top500.org - список Top 500.

3.      http://www.jscc.ru/  - Межведомственный Суперкомпьютерный Центр

4.      http://parallel.rb.ru/computers/classes.html - Основные классы современных параллельных компьютеров.

5.       http://parallel.rb.ru/computers/taxonomy/ - Классификации архитектур вычислительных систем.

6.     http://parallel.rb.ru/computers/benchmarks/ - Тесты производительности компьютеров и системного ПО

7.    http://www2.sscc.ru/Seminars/NEW/Seminars.htm - Архив материалов семинаров ССКЦ

Вернуться к списку курсов

Нейрокомпьютерные системы

Традиционные (жесткие) вычислительные методы не обеспечивают достаточных возможностей для разработки и реализации интеллектуальных программных систем. Мягкие вычисления («вычислительный интеллект») образуют раздел искусственного интеллекта и допускают неточность, неопределенность и неполную истинность обрабатываемых данных. Методы мягких вычислений позволяют создавать практические средства построения интеллектуальных систем. Данный курс дает представление о достоинствах нейронных сетей, нечеткой логики, генетических алгоритмов и программ. Студенты получат необходимые знания о том, как применить вышеуказанные методы к конструированию конкретных приложений.

Нейронные сети способны обучаться распознаванию образов, пониманию речи, предсказанию погоды и управлению системами различной сложности. Эта новая технология должна сыграть важную роль в управлении энергетическими системами, индустриальными объектами, интеллектуальными роботами и во многих других практически важных приложениях. В частности нейронные сети интересны как основа для разработки параллельных архитектур.

Генетические алгоритмы полезны при решении многих важных проблем, в том числе нелинейных многомерных задач оптимизации. Данный курс рассматривает приложение генетических алгоритмов и программ к конструированию интеллектуальных систем; он включает в себя теоретические основы генетических алгоритмов, альтернативные модели генетического поиска, параллельные генетические алгоритмы и приложения генетических алгоритмов к оптимизации параметров и планированию.

Методы нечеткой логики могут быть использованы при разработке интеллектуальных систем на основе знаний, представленных естественным языком. Эта методология позволяет обрабатывать как символическую, так и численную информацию. Нечеткая логика может быть использована в управлении различными объектами и процессами. В сочетании с методами нейронных сетей методы нечеткой логики могут использоваться в построении адаптивных систем управления, устойчивых к ошибкам. В данном курсе рассматривается применение нечеткой логики и нейронных сетей к созданию нечетких систем и гибридных нейронно-нечетких систем.

• Нейронные сети

1. Введение в нейрокомпьютерные системы. Элементы нейронных сетей.

Понятие нейронной сети (НС). История возникновения НС и перспективы их развития. Отличия НС от традиционных вычислительных систем.

Задача четкого разделения двух классов на обучающей выборке. Разделение центров масс. Алгоритм обучения персептрона. Виды обучения. Геометрическая интерпретация задачи разделения двух классов. Аппроксимация функций. Адалайн. Паде-нейрон. Нейрон с квадратичным сумматором.

2. Виды нейронных сетей и решаемые ими задачи.

Реализация булевских функций посредством НС. Виды НС. Способы организации функционирования НС. Интерпретация ответов НС. Виды интерпретации. Оценка способности НС решить поставленную задачу. Константа Липшица сети. Метод обратного распространения ошибки.

3. Методы оптимизации, используемые при обучении нейронных сетей.

Особенности задачи оптимизации, возникающей при обучении НС. Выбор направления минимизации. Партан-методы. Одношаговый квазиньютоновский метод и сопряженные градиенты. Одномерная минимизация. Методы глобальной оптимизации. Использование случайных возмущений в обучении. Метод виртуальных частиц.

4. Рекуррентные нейронные сети как устройства ассоциативной памяти .

Нейронная сеть Хопфилда как ассоциативная память. Сеть Хемминга. Двунаправленная ассоциативная память.

5. Решение задач комбинаторной оптимизации на нейронных сетях.

Решение задачи коммивояжера на сети Хопфилда. Машина Больцмана.

6. Самоорганизация нейронных сетей.

Метод динамических ядер. Сети Кохонена.

7. Контрастирование (редукция) нейронной сети.

Оценка значимости параметров и сигналов.Сокращение числа входов в линейном сумматоре методом "снизу-вверх". Метод исключения параметров "сверху-вниз" с ортогонализацией. Бинаризация адаптивного сумматора.

8. Методы реализации нейрокомпьютеров.

Электронные методы реализации НС. Нейрочипы. Нейропроцессор NM6403. Оптические методы реализации НС.

• Генетические алгоритмы

1. Основные понятия генетических алгоритмов.

Классический генетический алгоритм. Кодирование параметров задачи в генетическом алгоритме. Основная теорема о генетических алгоритмах.

2. Модификации классического генетического алгоритма.

Методы селекции и репродукции. Методы кодирования. Генетические алгоритмы для многокритериальной оптимизации. Решение комбинаторных задач с помощью генетических алгоритмов. Эволюционные алгоритмы.

3. Эволюционные алгоритмы в нейронных сетях.

Генетические алгоритмы для поддержки нейронных сетей. Применение генетических алгоритмов для обучения нейронных сетей. Генетические алгоритмы для выбора топологии нейронных сетей.

• Нечеткие и гибридные системы

1. Основные понятия и определения теории нечетких множеств.

Операции на нечетких множествах. Меры нечеткости нечетких множеств. Нечеткость и вероятность. Нечеткие правила вывода.

2. Системы нечеткого вывода Мамдани-Заде и Такаги-Сугено-Канга.

Фазификатор. Дефазификатор. Модель Мамдани-Заде как универсальный аппроксиматор. Модель вывода Такаги-Сугено-Канга.

3. Нечеткие нейронные сети.

Структура нечеткой сети Такаги-Сугено-Канга. Гибридный алгоритм обучения нечетких сетей. Алгоритмы самоорганизации для обучения нечетких сетей.

Список литературы

1. Горбань А.Н., Россиев Д.А. Нейронные сети на персональном компьютере.- Новосибирск: Наука, 1996 г.
2. Осовский С. Нейронные сети для обработки информации.-М.: Финансы и статистика, 2002.
3. Уоссермен Ф. Нейрокомпьютерная техника. Теория и практика.- М.:Мир, 1992
4. Каллан Р. Основные концепции нейронных сетей.-М.:Изд. Дом «Вильямс», 2001.
5. Заенцев И.В. Нейронные сети. Основные модели.- Воронеж:ВГУ.-1999 г.
6. Горбань А.Н. Обучение нейронных сетей.- М.: СП Параграф, 1990 г.
7. Миркес Е.М. Нейрокомпьютер. Проект стандарта. – Новосибирск: Наука, 1999.
8. Нейроинформатика/ А.Н.Горбань и др. – Новосибирск: Наука, 1998.
9. Ачасова С.М. Вычисления на нейронных сетях (обзор)//Программирование.- 1991, N2.- С.40-53.
10. Вороновский Г.К. и др. Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности. – Харьков: Основа.- 1997 г.
11. Chevtchenko P.A., Fomine D.V., Tchernikov V.M., and Vixne P.E., Using of microprocessor NM6403 for neural net emulation// http://www.module.ru
12. Круглов В.В., Борисов В.В. Искусственные нейронные сети. Теория и практика.- М.:Горячая линия – Телеком, 2002.
13. Назаров А.В., Лоскутов А.И. Нейросетевые алгоритмы прогнозирования и оптимизации систем. – СПб.: Наука и Техника, 2003.
14. Нейроматематика. Кн.6./Под ред. А.И.Галушкина.- М.:ИПЖР, 2002(Нейрокомпьютеры и их применение).
15. Ежов А.А., Шумский С.А. Нейрокомпьютинг и его применение в экономике и бизнесе.- Москва, 1998.
16. Минаев Ю.Н., Филимонова О.Ю., Бенамеур Лиес, Методы и алгоритмы решения задач идентификации и прогнозирования в условиях неопределенности в нейросетевом логическом базисе.- М.: Горячая линия – Телеком, 2003.
17. Ярушкина Н.Г. Основы теории нечетких и гибридных систем.- М.:Финансы и статистика, 2004.
18. Рутковская Д., Пилиньский М., Рутковский Л. Нейронные сети, генетические алгоритмы и нечеткие системы.- М.: Горячая линия – Телеком, 2004.
19. Комашинский В.И., Смирнов Д.А. Нейронные сети и их применение в системах управления и связи. – М.: Горячая линия – Телеком, 2003.
20. Тарков М.С. Нейрокомпьютерные системы. – М.: Интернет-Ун-т Информ. Технологий : Бином. Лаборатория знаний, 2006. - 142 с.

Вернуться к списку курсов

Квантовые компьютеры

Состояние квантовой системы из L двухуровневых квантовых элементов (кубитов), в отличие от классической, может находиться в суперпозиции 2^L  булевых состояний, то есть характеризуется вектором состояния в  2^L-мерном гильбертовом пространстве. Для описания такой суперпозиции в классическом компьютере потребуется задать 2^L комплексных чисел, то есть понадобятся  экспоненциально большие вычислительные ресурсы. Отсюда следует, что эффективное моделирование квантовых систем, содержащих сотни кубитов, практически недоступно классическим компьютерам, но может эффективно осуществляться на основе использования квантовых логических операций, действующих в  2^L-мерном гильбертовом пространстве состояний, и этим принципиально отличающихся от операций над булевыми состояниями.

В курсе систематически излагаются математические и физические основы квантовых вычислений и принципов работы квантовых компьютеров. Определены необходимые понятия квантовой теории информации, описаны основные квантовые логические операции. Охвачены такие темы, как квантовые алгоритмы (факторизация, дискретный логарифм), квантовая телепортация, сверхплотное кодирование, устойчивые к ошибкам вычисления, квантовая криптография. Обсуждаются ограничения, препятствующие полномасштабным квантовым вычислениям, и возможные пути их преодоления.

Литература

1. Нильсен М., Чанг И. Квантовые вычисления и квантовая информация. М.: Мир. – 2006 г., 824 с.
2. Валиев К.А., Кокин А.А. Квантовые компьютеры: надежды и реальность. Ижевск: НИЦ «Регулярная и хаотическая динамика», 2001 г., 351 с.
3. Квантовый компьютер и квантовые вычисления. Ижевск: НИЦ «Регулярная и хаотическая динамика», 1999 г., 288 с.

Вернуться к списку курсов

Распределенные алгоритмы

В курсе рассматриваются алгоритмы решения наиболее важных задач, возникающих при проектировании программного обеспечения распределенных вычислительных систем (ВС). Под распределенной ВС понимается любая вычислительная система, в которой несколько компьютеров или процессоров вступают во взаимодействие. Под это определение наряду с глобальными компьютерными сетями подпадают локальные сети, многопроцессорные компьютеры, в которых каждый процессор наделен собственным устройством управления, а также системы взаимодействующих процессов. В курсе большое внимание уделяется принципам работы распределенных ВС и методам повышения их надежности.

Вернуться к списку курсов

Параллельные вычислительные технологии математического моделирования

В рамках курса будут изучены параллельные алгоритмы решения задач механики сплошной среды и вычислительной линейной алгебры. Будут изучены архитектуры графических ускорителей NVIDIA и ускорителей Intel Xeon Phi и отображение на их архитектуру параллельных вычислительных методов.

В результате освоения дисциплины обучающийся будет:

•         знать основы объектно-ориентированного и параллельного программирования; сложностные особенности алгоритмов для решения задач в различных предметных областях; архитектурные особенности алгоритмов для решения задач в различных предметных областях

•         уметь разрабатывать параллельные алгоритмы; тестировать разработанные алгоритмы в уникальной области знаний; модифицировать разработанные алгоритмы под специфику задач

•         владеть технологиями параллельного программирования; навыками тестирования разработанных алгоритмов и построения необходимого набора тестов в уникальной области знаний; навыками тестирования разработанных алгоритмов и построения необходимого набора тестов.

Вернуться к списку курсов

Параллельные вычислительные методы

На практических занятиях особое внимание будет уделяться реализации рассматриваемых вычислительных методов на графических процессорах (GPU) с использованием технологии CUDA, а также распараллеливание программ с использованием MPI и примеры реализации численных методов.

Вернуться к списку курсов

Экономика и менеджмент программных проектов

Рассматриваются базовые концепции промышленного производства программ как инженерной деятельности. Примеры актуальных технологий и инструментов иллюстрируют развитие фундаментальных понятий и методологий процесса разработки программ. Определяются способы управления качеством. Рассматриваются управление стоимостью, управление временем/матрица Эйзенхауэра, управление рисками в программном проекте, управление персоналом - какие компетенции важны для командной работы, как отбирать претендентов в проект, как писать резюме, уметь подать себя и свои идеи, виды карьеры и профессионального роста в ИТ-бизнесе. Оформление идеи в бизнес проект, деловые игры, оценка бизнес проектов, задачи, методы и результаты работы менеджера проектов. Стратегическое и оперативное управление. Особенности ИТ-бизнеса (малых компаний)в России.

Вернуться к списку курсов

Математическое моделирование больших задач

Спецсеминар предназначен для студентов бакалавриата и магистратуры. Семинар посвящен рассмотрению проблем решения практических задач. На нем рассматриваются вопросы постановки задач, выбора алгоритмов решения, создания программ и решения задач с использованием суперкомпьютеров. На семинаре выступают сотрудники и аспиранты лаборатории Суперкомпьютерного моделирования и студенты, специализирующиеся на кафедре.

Вернуться к списку курсов