Математическое моделирование и расчеты в задачах физики плазмы - постоянная тема работ Института с конца 1950-х - начала 1960-х годов, инициированная И.В.Курчатовым и М.А.Леонтовичем. К этому времени были преодолены основные трудности в решении оборонных задач ядерной физики, коллектив Института приобрел квалификацию и опыт, достаточные для расширения поля деятельности. С другой стороны, создание водородной бомбы открыло перед человечеством заманчивую перспективу управляемого термоядерного синтеза (УТС), что вызвало огромный интерес к физике плазмы и обусловило современный этап ее интенсивного развития.
Промышленное получение энергии в результате слияния ядер дейтерия и трития требует существенных материальных затрат и интеллектуальных усилий всего мирового сообщества. При этом важны как систематические научные исследования в фундаментальных областях физики плазмы, так и разработка многих новых технологий. Физические процессы в высокотемпературной плазме обладают сильной анизотропией пространственных и временных характеристик и требуют для своего описания сочетания моделей различной размерности. Методы решения таких задач - это передний край исследований в области математической физики и вычислительной математики. Они включают, в частности, использование сеток, адаптирующихся к решению, и параллельные вычисления.
Одной из первых и самых простых попыток реализовать идею магнитного удержания является Z-пинч - плазменный шнур между двумя электродами, ток в котором создает азимутальное магнитное поле, призванное сжимать и удерживать плазму. С Z-пинчем связана первая в ИПМ (и, по-видимому, одна из первых в мире) работа по вычислительной магнитной газодинамике. В 1958 г. были опубликованы результаты расчета нестационарного режима сжатия цилиндрического плазменного шнура с током, включенного в электрическую цепь, в одномерной модели [105]. Результаты способствовали анализу имевшихся тогда экспериментальных данных. В последующие годы выполнены более глубокие исследования Z-пинча. В частности, была поставлена и решена задача о сжатии шнура в одномерной двухтемпературной модели [106]. Анализ результатов и сопоставление с экспериментами говорят об ограниченности одномерного подхода. Кроме того была предложена двумерная МГД-модель Z-пинча. Для решения этой задачи был создан оригинальный численный метод свободных точек [107].
Развитием идеи Z-пинча являются замкнутые тороидальные установки токамак и стелларатор: шнур, изогнутый в тор, избавлен от прямого контакта горячей плазмы с электродами, а хорошо изученные неустойчивости пинча преодолеваются усложнением структуры поля с помощью дополнительных внешних токов, окружающих тор. Расчеты МГД-равновесия и устойчивости плазмы в токамаках и стеллараторах [108,109], которые внесли существенный вклад в предсказание операционных пределов экспериментальных установок, становятся основой для интеграции технических и плазменно-физических моделей термоядерного реактора (рис. 18) [110]. Разработка математического обеспечения для планирования масштабных экспериментов (полная стоимость проекта токамака ИТЭР - 5 млрд. долларов, стоимость одних суток экспериментов равна примерно 1 млн. долларов) становится самостоятельной отраслью интеллектуальных технологий, а математические модели - языком общения научных коллективов.
Другой привлекательной возможностью выглядит создание условий термоядерного горения в плазме под воздействием мощного лазерного излучения [111]. Здесь весьма существенными моментами являются выбор оптимальных мишеней для различных лазерных установок и исследования пространственной устойчивости процесса сжатия плазмы, а также изучение специфических физических явлений, влияющих на эффективность горения [112].
В настоящее время совместные исследования ведутся с РНЦ "Курчатовский Институт" и ведущими лабораториями мира. Институт участвует также в проекте международного термоядерного экспериментального реактора ИТЭР под эгидой Международного агентства по атомной энергии.