Руди Шмит е роден на 8 януари 1928 г. във Франкфурт на Майн. След завършване на следването си той работи като учител във Франкфурт от 1946 г. до избирането му за депутат от СДП в парламента на провинция Хесен през 1954 г. През 1947 г. се присъединява към СДП. От 1960 до 1968 г. Шмит е бил общински съветник във Висбаден като отговорник за образованието и спорта, а от 1966 г. и като отговорник за културата. На 1 февруари 1968 г. е избран за кмет на столицата на провинцията.

След напускането на поста кмет, той влиза в Германския Бундестаг за два мандата до 1987 г. чрез пряк мандат. През 1959 г. е член на 3-тото, а през 1984 г. – на 8-тото Федерално събрание за избор на федерален президент. От 1967 до 1988 г. Руди Шмит е председател на окръжния съюз на Германския Червен кръст във Висбаден, а от 1988 до 2001 г. – президент на регионалния съюз на Германския Червен кръст в Хесен.

Семейството изрично помоли да може да скърби за покойника в спокойствие и моли да се въздържат от медийни запитвания. Погребението ще се състои в тесен кръг. Почитната церемония на столицата на провинцията Висбаден ще се състои на по-късен етап, с оглед на близките. От вторник, 14 април, 10 часа, във фоайето на кметството, Schlossplatz 6, ще бъде изложена книга за съболезнования за една седмица. На този ден флагштоковете на кметството ще бъдат украсени с траурни ленти.