Работа над конкретными прикладными задачами приводила и приводит сотрудников Института к глубоким общематематическим проблемам. В исследовании многих из них были достигнуты фундаментальные результаты.
В Институте зародились такие получившие бурное развитие во всем мире новые направления математических исследований, как теория некорректных задач [19,35], интегральная геометрия и теория представлений [36,37], инвариантная геометрия семейств вероятностных законов [22].
В работах сотрудников Института получены основополагающие результаты в таких областях математики, как теория обобщенных функций [38,39], общая теория гипергеометрических функций [40], теория решения нелинейного уравнения Больцмана [41,42,43], теория нормальных форм систем дифференциальных уравнений [44], теория функциональных систем [45], теория построения и надежности управляющих систем [46], теория синтеза схем [47].
В последние годы доказаны теоремы о точных константах приближений общих классов аналитических функций рациональными. Как следствие, установлена справедливость гипотезы А. Магнуса о явном виде константы, уточняющей скорость геометрической прогрессии в определении точности приближения экспоненциальной функции на полуоси [48]. Эта задача была поставлена Р. Варгой (США) в связи с численно-аналитическими методами решения уравнения теплопроводности. Работа является продолжением классических исследований в теории приближений аналитических функций М.В.Келдыша, М.А.Лаврентьева, С.Н.Мергеляна и А.А.Гончара.
Выполнен цикл исследований краевых задач для эллиптических по Дуглису-Ниренбергу систем с большим параметром и смешанных задач для общих параболических систем. Основной целью исследований было распространение классической теории параболических систем на системы, возникающие в приложениях. Предложен общий подход к теории параболических уравнений (систем), основанный на двух идеях. Первой идеей является использование метода многогранника Ньютона [49]. Этот метод связывает с уравнением (системой) набор старших частей, отвечающих сторонам многогранника Ньютона. Вторым принципиально новым моментом является использование метода экспоненциального пограничного слоя Вишика-Люстерника.
На основе степенной геометрии была разработана теория и методика построения степенно-логарифмических асимптотик и разложений решений системы дифференциальных уравнений общего вида (включающей как обыкновенные дифференциальные уравнения, так и уравнения в частных производных) [50]. Эта методика была применена к изучению уравнений Н. Ковалевского и Эйлера-Пуассона, описывающих движения тяжелого твердого тела с закрепленной точкой. Для этих систем получены новые асимптотики и разложения решений.
Решен ряд фундаментальных проблем качественной теории нелинейных параболических уравнений. В частности, для квазилинейных параболических уравнений с нелинейным источником была построена теория режимов с обострением (при которых решение по крайней мере в одной точке пространственной области неограниченно растет за конечное время - время обострения). Была построена теория операторного сравнения, позволяющая сравнивать решения параболических уравнений с разными нелинейностями в источнике и коэффициенте теплопроводности. Создана теория приближенных автомодельных решений, к которым сходятся решения различных типов параболических уравнений при стремлении времени к моменту обострения. Были развиты другие подходы, позволяющие по начальным данным оценивать время существования решений и область их пространственной локализации [51,52]. Эти работы получили мировое признание и сейчас активно развиваются.
В конце 60-х годов в связи с развитием численных методов и возрастанием роли вычислительного эксперимента повысился интерес к специальным функциям. В эти годы в Институте была начата работа по теории специальных функций. По существу, это ещё одно важное научное направление в области математической физики. Удалось разработать новый подход - единый и весьма простой - к построению решений дифференциальных уравнений гипергеометрического типа [53]. На этой основе в математическую физику введены разностные уравнения гипергеометрического типа на неравномерных сетках. В рамках найденного подхода построена также теория классических ортогональных полиномов дискретной переменной как решений разностного уравнения гипергеометрического типа, являющегося аналогом дифференциального уравнения на равномерных и неравномерных сетках определенного вида [54].
Создано новое направление в групповом анализе, связанное с приложением групп Ли к конечно-разностным уравнениям, разностным схемам, разностным функционалам. Дан алгоритм построения разностных моделей, полностью сохраняющих симметрию исходных дифференциальных уравнений. Так же, как и в непрерывном случае, знание симметрии разностной модели позволяет получать инвариантные решения и законы сохранения, понижать порядок рассматриваемых уравнений. [55]
Выполнено исследование групповых свойств ряда уравнений математической физики, в частности, нелинейных уравнений диффузии с источником, уравнений магнитной гидродинамики, различных моделей гидро- и газодинамики. Получены новые точные инвариантные решения, описывающие необычные свойства нелинейных сред. Найдены новые линеаризуемые уравнения [56].
В области алгоритмизации обработки текстов на естественных языках были созданы первые в нашей стране экспериментальные системы машинного перевода с французского языка на русский (первого и второго поколения), а также экспериментальная система перевода с английского языка на русский. Была разработана система анализа русских текстов [57].
Построены формальные исчисления, позволяющие решать проблемы эквивалентности и эквивалентных преобразований для схем алгоритмов. Описаны некоторые условия существования конечной полной системы локальных правил эквивалентных преобразований для схем алгоритмов, и явно описаны такие схемы [58,59,60]. Изучены эквивалентные преобразования для многих классов управляющих систем. Развит новый подход к исследованию эквивалентных преобразований в замкнутых классах k-значной логики и систем тождеств для алгебр [61,62,63]. Проводилось исследование нетрадиционных логик, имеющих широкое применение в области представления и обоснования знаний, баз данных. Решена проблема сводимости Э. Поста: доказано, что все пары эффективно неотделимых перечислимых множеств рекурсивно изоморфны между собой [64].
Разработаны асимптотически наилучшие методы синтеза для основных классов управляющих систем. Разработан общий подход к построению асимптотически наилучших методов синтеза схем для специальных классов функций - принцип локального кодирования [65]. Найдены условия, которым удовлетворяют функции, характеризующие сложность.
Исследовано поведение автоматов в случайных средах. Изучены игры конечных автоматов [66].
Исследованы алгоритмические трудности синтеза минимальных схем. Для этого введено понятие инвариантного класса, которое впоследствии использовалось при изучении других объектов [67]. Построена общая теория тестов для контроля неисправностей управляющих систем. Разработана методика построения тупиковых и минимальных тестов. Введено понятие самокорректирующейся схемы. Доказана возможность построения самокорректирующихся схем асимптотически без увеличения сложности по сравнению со схемами без требования самокорректирования [68].
Построены совершенные или близкие к ним коды, исправляющие ошибки различных типов. Для широкого класса компактных метрических пространств найдены оценки оптимальных размеров кодов и дизайнов. Они позволили решить известную задачу о контактном числе шаров в евклидовых пространствах размерности 8 и 24 [69].