Первый период истории Института 1953-1978 гг., который без преувеличения можно назвать легендарным, связан с именем выдающегося математика, механика, организатора науки академика Мстислава Всеволодовича Келдыша. Он был государственным человеком, принципиальным, прозорливым, умевшим увидеть то, что стране потребуется завтра. Будучи сам человеком сильного и ясного ума, математиком и механиком с мировым именем (его теория "флаттера" и "шимми" – неустойчивости самолетных конструкций – стала классикой), он умел оценивать перспективы и потенциал новых областей.
При организации Института были образованы отделы газодинамики (зав. отделом – К.А.Семендяев), теплопереноса (И.М.Гельфанд), математической физики (А.А.Самарский), механики (Д.Е.Охоцимский), программирования (А.А.Ляпунов). Заместителем директора Института стал А.Н.Тихонов.
Совершенствование ядерного оружия и средств его доставки было невозможно без ЭВМ, без создания новой вычислительной математики. Пионерские работы, связанные с математической физикой, были выполнены в те годы молодыми коллективами, один из которых возглавляли А.Н.Тихонов и А.А.Самарский, другой – И.М.Гельфанд и К.А.Семендяев. Создание ракетной и космической техники – другая стратегическая задача, возложенная на Институт – потребовало развития небесной механики и теории управления, выработки стратегии космических исследований. М.В.Келдыша по праву называли главным теоретиком космонавтики. Немалый вклад в решение этого круга задач внесли академики Д.Е.Охоцимский, Т.М.Энеев, их ученики и коллеги.
Чтобы проводить расчеты, нужно было вместе с разработчиками первых советских ЭВМ многократно повысить их надежность и заложить основы программирования. В освоении первых ЭВМ огромную роль сыграл профессор А.Н.Мямлин, в создании основ программирования – профессора А.А.Ляпунов и М.Р.Шура-Бура.
Одной из традиций Института в те годы стало творческое сотрудничество с выдающимися учеными и ведущими коллективами в своих областях. Построить эффективную математическую модель удается только тогда, когда глубоко понята физика исследуемых явлений. Поэтому нашими сотрудниками и коллегами были многие выдающиеся физики. Так, например, много лет в Институте работал трижды Герой Социалистического Труда академик Я.Б.Зельдович.