Людвіг Бек народився у Бібріху (нині Вісбаден) 29 червня 1880 року, син промисловця Людвіга Бека та його дружини Берти, уродженої Драудт. Після закінчення школи він вступив до прусської армії в чині прапорщика. Після навчання у Військовій академії в Берліні, у 1913 році Бек був призначений до Генерального штабу в чині капітана.
Під час Першої світової війни він служив офіцером генерального штабу в різних вищих командуваннях на Західному фронті. 1919 року він вступив до Рейхсверу, де дослужився до звання генерала. У новоствореному Вермахті Бек був призначений генералом артилерії. Коли Гітлер оголосив про свої плани розгромити Чехословаччину в 1938 році, значна частина офіцерського корпусу думала інакше, ніж Гітлер. Речником цієї групи був начальник Генерального штабу Людвіг Бек. Він застерігав своє керівництво і главу держави від згубних рішень і зустрів схвалення з боку генерал-полковника фон Браухіча, але люте неприйняття з боку Гітлера. Бек хотів переконати генералів піти у відставку. Хоча Браухіч поділяв переконання, що війна означатиме катастрофу для Німеччини, він, як і інші генерали, не міг зважитися на крок, який пропонував Бек. В результаті Бек оголосив про свою відставку в серпні 1938 року і незабаром після цього був звільнений з Вермахту.
З 1939 по 1944 рік Людвіг Бек брав участь у русі опору навколо Карла Фрідріха Герделера. Разом з Герделером він очолив рух опору і розглядався як новий глава держави в різних планах державного перевороту.
Після невдалого замаху на Гітлера у "Вовчому лігві" (поблизу Растенбурга / Східна Пруссія) група опору навколо Бека в Берліні не змогла здійснити державний переворот. Бек був заарештований у берлінському кварталі Бендлерблок підрозділами Вермахту. Незадовго до півночі Людвіг Бек був змушений вчинити самогубство, яке двічі не вдалося. Після цього його застрелив сержант Вермахту.