Ludwig Beck nacque a Biebrich (oggi Wiesbaden) il 29 giugno 1880, figlio dell'industriale Ludwig Beck e di sua moglie Bertha, nata Draudt. Dopo aver lasciato la scuola, si arruolò nell'esercito prussiano come guardiamarina. Dopo aver frequentato l'Accademia di Guerra di Berlino, Beck fu nominato capitano dello Stato Maggiore nel 1913.
Durante la Prima guerra mondiale, prestò servizio come ufficiale di stato maggiore presso vari alti comandi sul fronte occidentale. Nel 1919, entrò nella Reichswehr, dove raggiunse il grado di generale. Nella neonata Wehrmacht, Beck fu nominato generale di artiglieria. Quando Hitler annunciò i suoi piani per distruggere la Cecoslovacchia nel 1938, vasti settori del corpo ufficiali la pensarono diversamente da Hitler. Il portavoce di questo gruppo era il Capo di Stato Maggiore Ludwig Beck. Egli mise in guardia i suoi superiori e il capo di Stato da decisioni disastrose e incontrò l'approvazione del colonnello generale von Brauchitsch, ma il furioso rifiuto di Hitler. Beck voleva convincere i generali a dimettersi dai loro incarichi. Sebbene Brauchitsch condividesse la convinzione che una guerra avrebbe significato un disastro per la Germania, egli, come gli altri generali, non poteva decidere di compiere il passo proposto da Beck. Di conseguenza, Beck annunciò le sue dimissioni nell'agosto 1938 e poco dopo fu congedato dalla Wehrmacht.
Dal 1939 al 1944, Ludwig Beck fu coinvolto nella resistenza intorno a Carl Friedrich Goerdeler. Insieme a Goerdeler, divenne il capo del movimento di resistenza e fu previsto come nuovo capo di Stato in vari piani di colpo di stato.
Dopo il fallito attentato dinamitardo contro Hitler nella "Tana del Lupo" (vicino a Rastenburg / Prussia orientale), il gruppo di resistenza intorno a Beck a Berlino non riuscì a realizzare un colpo di Stato. Beck fu arrestato nel Bendlerblock di Berlino da unità della Wehrmacht. Poco prima della mezzanotte, Ludwig Beck fu costretto a commettere un suicidio, che fallì due volte. Fu poi ucciso da un sergente della Wehrmacht.