Тэорыя ўстойлівасці — тэхнічная і фізіка-матэматычная дысцыпліна, якая вывучае заканамернасці паводзін сістэм пад уплывам знешніх уздзеянняў.
У аналітычным аспекце з’яўляецца раздзелам тэорыі дыферэнцыяльных раўнанняў. У прыкладным аспекце найбольшае развіццё атрымала тэорыя ўстойлівасці механічных сістэм, паколькі менавіта механіка, як найстарэйшая навука, упершыню сутыкнулася з праблемамі ўстойлівасці. Эйлер упершыню строга паставіў і вырашыў задачу ўстойлівасці стану раўнавагі механічнай сістэмы — стрыжня, сціснутага сціскальнай сілай (эластыка Эйлера).
У найбольш агульным выглядзе тэорыя ўстойлівасці была распрацавана А. М. Ляпуновым, які сфармуляваў і даказаў асноўныя тэарэмы тэорыі ўстойлівасці руху. Ляпуноў па праве лічыцца стваральнікам тэорыі ўстойлівасці. У парадку развіцця тэорыі асноўныя агульныя крытэрыі ўстойлівасці, якія вынікаюць з прац А. М. Ляпунова і матэматычнага прынцыпу аргумента, сфармуляваны Міхайлавым, Найквістам, Гурвіцам, Вышнеградскім і іншымі матэматыкамі.
Важнай часткай тэорыі ўстойлівасці з’яўляецца праблема аналітычнага і практычнага вызначэння запасаў устойлівасці складаных (шматкампанентных, дынамічных, рознафактарных) сістэм і працэсаў. У гэтай частцы тэорыі ўстойлівасці асаблівую актуальнасць з развіццём складанай тэхнікі набылі задачы дыягнаставання і прагназавання запасаў устойлівасці працэсаў, звязаных з эксплуатацыяй вялікіх тэхнічных сістэм. Такога роду розныя прыкладныя задачы, звязаныя з тэорыяй устойлівасці двухфазных патокаў — у развіццё тэорыі ўстойлівасці ў яе тэхнічных прыкладаннях, — разгледжаны і вырашаны І. І. Марозавым, В. І. Герлігай[1][2], А. В. Каралёвым, Пагосавым[3][4], В. І. Скалазубавым і іншымі даследчыкамі, якія працуюць над новымі аспектамі адаптацыі тэорыі ўстойлівасці да сучасных тэхнічных аб’ектаў[5].