Tirpitz Küstrinben született (ma Kostrzyn nad Odrą, Lengyelország) Brandenburg tartományban, Poroszországban. 1865-ben csatlakozott a porosz haditengerészethez, és az 1870–71-es francia-porosz háborúban is részt vett. A háború után különféle beosztásokat és parancsnokságokat töltött be, és emelkedett a ranglétrán.
1897-ben Tirpitzt a császári haditengerészet államtitkárává nevezték ki , Friedrich von Hollmann tengernagy utóda. Azonnal hozzálátott a német haditengerészet bővítésére vonatkozó ambiciózus tervei megvalósításához, mivel úgy gondolta, hogy az erős haditengerészet elengedhetetlen Németország nemzetbiztonsága és gazdasági jóléte szempontjából.
Tirpitz vezetése alatt, a német haditengerészet gyorsan növekedett. Nőtt a csatahajók és cirkálók száma, új típusú hadihajók, például tengeralattjárók és rombolók is megjelentek. Tirpitz felügyelte a haditengerészeti bázisok és hajógyárak hálózatának építését is.
Tirpitz haditengerészeti bővítési programja megterhelte Németország erőforrásait, és feszültséget okozott Nagy-Britanniában, amely a német haditengerészet növekedése miatt fenyegetettnek érezte magát. 1906-ban Nagy-Britannia útjára bocsátotta a Dreadnoughtot, egy forradalmian új típusú csatahajót, amely az összes létező csatahajót elavulttá tette. A Tirpitz válaszul elrendelte a csatahajók új osztályának, a Nassau-osztálynak az építését, amelyek erősebb fegyverekkel és vastagabb páncélzattal voltak felszerelve, mint a Dreadnought.
Az angol-német haditengerészeti fegyverkezési verseny az első világháború 1914-es kitöréséig tartott. A Tirpitz parancsnoksága alatt álló német haditengerészet jelentős szerepet játszott a háborúban, de végül vereséget szenvedett a Királyi Haditengerészettől.
A háború után Tirpitz visszavonult a haditengerészettől és belépett a politikába. 1924 és 1928 között a Reichstag tagjaként szolgált, és a Weimari Köztársaság hangos kritikusa volt. Tirpitz a bajorországi Ebenhausenben halt meg 1930-ban.
Tirpitz továbbra is vitatott figura. Egyesek csodálják a német haditengerészet felépítésében tanúsított előrelátása és elszántsága miatt, de kritizálják az angol-német haditengerészeti fegyverkezési versenyben és az első világháború kitörésében játszott szerepéért is.