Герой Социалистического Труда, академик АН СССР, механик и математик, основатель современной русской школы судостроения, лауреат Сталинской премии
Родился в деревне Висяга Алатырского уезда Симбирской губернии, ныне деревня Крылово Порецкого района Чувашской республики.
Детство и юность провел в селе Теплый Стан, ныне Сеченово Нижегородской области.
В 1878 – 1884 годах учился в Петербургском Морском училище, окончил с отличием. Работал в компасной мастерской Гидрографического управления.
В 1887 году перешёл на Франко-русский завод, продолжил учёбу на кораблестроительном отделении Николаевской морской академии, после окончания в 1890 году остался в Академии, вёл практические занятия по математике, впоследствии курс теории корабля.

В 1890-е годы мировую известность приобрёл труд Крылова «Теория качки корабля», расширивший теорию Уильяма Фруда.
С 1896 года – член Английского общества корабельных инженеров. В 1898 году награждён золотой медалью Британского общества корабельных инженеров.
Создал теорию демпфирования (умирения) бортовой и килевой качки.
С 1900 года сотрудничал со Степаном Осиповичем Макаровым, адмиралом и учёным-кораблестроителем, работая над вопросом плавучести корабля.
В 1900 –1908 годах – заведующий опытовым бассейном.

В 1908 –1910 годах – главный инспектор кораблестроения (начальник кораблестроительного отдела МТК и его председатель).
С сентября 1908 года – председатель Морского технического комитета.
Генерал флота (06.12.1916). Генерал для особых поручений при морском министре Российской империи (1911).
С 1910 года – ординарный профессор Николаевской морской академии, консультант Адмиралтейского и Балтийского заводов.
В 1911 – 1913 годах – экстраординарный профессор Института инженеров путей сообщения.
В 1915 – 1916 годах – председатель правительственного правления Путиловских заводов. Участвовал в проектировании и постройке первых русских линкоров-дредноутов типа «Севастополь».
Член-корреспондент Российской академии наук (29.11.1914). Ординарный академик (02.04.1916) – по математической физике.
В 1916 году возглавлял Главную физическую обсерваторию и Главное военно-метеорологическое управление (Главмет).

С 1917 года – директор физической лаборатории Академии наук, руководитель Русского общества пароходства и торговли. После Октябрьской революции передал все суда советскому правительству и продолжал работать на развитие отечественного флота.
В 1918 году – консультант комиссии особых артиллерийских опытов.
В 1919 –1920 годах – начальник Морской академии. В 1921 году направлен в Лондон, как представитель советского правительства для восстановления зарубежных научных связей страны.
В 1927 году вернулся в Советский Союз.
В 1928 –1931 годах – директор Физико-математического института АН СССР.
В 1931 году опубликовал работу по теме, известной теперь как подпространство Крылова.
В работах 1938 –1940 годах дал полное изложение теории девиации магнитного компаса, исследовал вопросы теории гироскопических компасов, разработал теорию влияния качки корабля на показания компаса.
В 1941 году эти исследования были отмечены Сталинской премией.
Предложил также новую систему дромоскопа, автоматически рассчитывающего девиацию компаса.
Автор около 300 книг и статей, работ по теории колебания корабля на волнении, по строительной механике корабля, теории вибрации судов и их непотопляемости, по теории гироскопов, внешней баллистике, математическому анализу и механике в приложении к кораблестроению, по истории физико-математических и технических наук и пр.
В августе 1941 года отправлен в эвакуацию в Казань. Вернулся в Ленинград в августе 1945 года.
Звание Героя Социалистического Труда присвоено 13 июля 1943 года.
Скончался в городе Ленинграде, похоронен на «Литераторских мостках» Волковского кладбища.
Награды: ордена Св. Станислава 3 -й (1895), 2 -й (1905), 1-й (1911) степени; Св. Анны 2 -й (1899), 1-й (1913) степени; Св. Владимира 4 -й (1908), 3 -й (1909), 2 -й (1915) степени; Ленина (15.02.1939; 13.07.1943; 10.06.1945).
Память: в Нижнем Новгороде одна из улиц Приокского района носит имя академика Крылова.