Troelstra werd in Leeuwarden op 20 april 1860 geboren. Zijn vader was een liberaal belastingontvanger. Troelstra studeerde rechten in Groningen en hij promoveerde daar in 1888. Hij vestigde zich als advocaat in Leeuwarden. In 1890 werd hij lid van de Sociaal Democratische Bond (SDB). Binnen de bond voerde hij oppositie tegen Domela Nieuwenhuis, die vast bleef houden aan het revolutionaire(en soms anarchistische) karakter van de partij.
Dit was voor een groep socialistende reden om zich af te scheiden van de bond. In 1894 richt Pieter Jelles Troelstra met elf anderen de SDAP (Sociaaldemocratische Arbeiderspartij) op. In juni 1918 worden voor het eerst verkiezingen gehouden op basis van het algemeen mannenkiesrecht. De SDAP krijgt 22 zetels en blijft achter op de katholieke partij. Het rechtse kabinet-Ruijs de Beerenbrouck wordt gevormd.
In november 1918 komt er een einde aan de Eerste Wereldoorlog. In Duitsland vindt een socialistische revolutie plaats en keizer Wilhelm II vlucht naar Nederland. De ineenstorting van het Duitse Keizerrijk maakt grote indruk op de Nederlandse bevolking. Er ontstaan grote sociale spanningen als gevolg van voedselschaarste, de lasten van de mobilisatie en de Spaanse griep die is uitgebroken. Deze sociale spanningen leiden ertoe dat Troelstra ervan overtuigd raakt dat Nederland klaar is voor een revolutie. Op 11 november houdt hij een rede waarin hij zijn achterban oproept zonder geweld de macht te grijpen. De Tweede Kamerfractie van de SDAP is niet op de hoogte van deze rede en reageert afwijzend. In de grote steden blijft het rustig en van een revolutionaire situatie is geen sprake. Een dag later ontkent Troelstra dat hij tot een revolutie heeft opgeroepen. Dit wordt 'de vergissing van Troelstra' genoemd.
Ondanks het feit dat Troelstra de leider bleef van de SDAP, heeft hij zijn gezag in de Kamer nooit meer echt kunnen herstellen. In 1925 trad Troelstra wegens gezondheidsredenen af als partijleider en werd opgevolgd door Albarda. In 1930 stierf hij.