Urodzony 25 grudnia 1895 roku w Piotrkowie Trybunalskim. Już od czasów szkolnych przejawiał zainteresowanie wojskiem. W 1911 roku należał do tajnego zastępu skautów w Piotrkowie Trybunalskim. Od 1913 roku zaczął działać w Polskich Drużynach Strzeleckich. W 1914 roku ukończył kurs podoficerski, następnie stanął na czele warszawskiego zastępu Polskich Drużyn Strzeleckich.

I WOJNA ŚWIATOWA W 1914 roku wstąpił do Legionów Polskich. W 1917 roku został internowany, po zwolnieniu, w 1918 roku dołączył do Polskiej Siły Zbrojnej, gdzie został wykładowcą w Szkole Podchorążych Piechoty.

WOJNA POLSKA-BOLSZEWICKA W 1919 roku znalazł się w składzie 34 pułku piechoty, wraz z którym walczył przeciwko wojskom bolszewickim.
W tym samym roku ukończył pierwszy z kursów Wojennej Szkoły Sztabu Generalnego. Pod koniec roku został szefem sekcji wyszkolenia Oddz. I Naczelnego Dowództwa.
W 1920 roku został szefem Oddz. II kolejno Frontu Południowo-Wschodniego, Frontu Środkowego i Grupy Uderzeniowej gen. Edwarda Śmigłego-Rydza w czasie bitwy pod Warszawą oraz Dowództwa 2. Armii.
Następnie został szefem Oddz. III Naczelnego Dowództwa, potem szefem sekcji planów w Oddz. IIIa Biura Ścisłej Rady Wojennej.

XX-LECIE MIĘDZYWOJENNE Po zakończeniu działań wojennych ukończył kurs doszkolenia oficerów Sztabu Generalnego. Następnie od 1923 był kierownikiem Wydziału Naukowo-Wydawniczego i zastępcą szefa Wojskowego Instytutu Naukowo-Wydawniczego. Przeniesiony do Generalnego Inspektoratu Sił Zbrojnych we wrześniu 1926, został I oficerem w sztabie Inspektora gen. Józefa Rybaka. Od lutego 1930 dowódca 55 pułku piechoty, od listopada 1935 dowódca brygady Korpusu Ochrony Pogranicza „Podole” w Czortkowie, od lipca 1938 dowódca piechoty dywizyjnej 2 Dywizji Piechoty

II WOJNA ŚWIATOWA W 1939 roku dowodził Warszawską Brygadą Pancerno-Motorową. Po klęsce wrześniowej pozostał w kraju, pomimo wcześniejszego zamiaru ucieczki do Francji lub Wielkiej Brytanii. Wkrótce wraz z innymi oficerami zaczął tworzyć zaczątki organizacji podziemnej. W 1940 roku został komendantem warszawskiego Związku Walki Zbrojnej , a następnie komendantem całego ZWZ. W tym samym roku został awansowany do rangi generała brygady. Od 1942 roku był komendantem Armii Krajowej oraz Delegatem Ministra Obrony Narodowej w Kraju. W 1943 roku wydał rozkaz powołujący do życia Kierownictwo Dywersji, a przez to rozpoczął uporządkowaną walkę z okupantem. 30 czerwca 1943 został aresztowany w wyniku zdrady, następnie przewieziony do Berlina, gdzie był przesłuchiwany. Wielokrotnie namawiano go, aby Armia Krajowa dołączyła do Rzeszy w walce z Sowietami, jednak Rowecki zdecydowanie odmówił. Na początku 1944 roku został awansowany do rangi generała dywizji. Prawdopodobnie w sierpniu 1944 roku został stracony na rozkaz Heinricha Himmlera.

Pośmiertnie, w 1967 roku został odznaczony Krzyżem Armii Krajowej.