Les Romains se sont installés ici du deuxième au quatrième siècle après Jésus-Christ, comme en témoignent les nombreuses fermes romaines le long du Wäschbach. Du 6ème au 11ème siècle après Jésus-Christ, la région était habitée par une grande tribu franque, comme en témoigne la "Heydenkapelle" découverte en 1971. Erbenheim est mentionné pour la première fois en 927 dans un document du couvent Sainte-Ursule de Cologne.

Le nom de la localité d'Erbenheim apparaît au 10e siècle sous la forme "Ersinesheim". Il indique un peuplement au début de l'époque franque, ce qui est également confirmé par des découvertes archéologiques.

Au Moyen-Âge, Erbenheim faisait partie du Königssondergau et passa probablement sous la domination des comtes de Nassau. En 1423, l'empereur Sigismond accorda à la localité des droits de ville. Cela permit aux habitants de se protéger avec des remparts et de tenir un marché hebdomadaire. Le 14e siècle a également été marqué par des guerres et des destructions. En 1461, la ville a été incendiée par Mayence. Erbenheim a également subi de lourdes pertes pendant la guerre de Trente Ans (1618 à 1648). Le village a néanmoins conservé une grande importance, notamment grâce à l'église Saint-Paul, dont la tour est toujours debout aujourd'hui.

À partir du 19e siècle, Erbenheim a connu une phase de croissance et de modernisation. En 1808, le servage fut aboli et la population augmenta. En 1834, le premier bâtiment scolaire fut construit, qui fut transformé en hôtel de ville en 1926. À partir de 1876, Erbenheim fut reliée au réseau ferroviaire grâce à la construction de la Ludwigsbahn. Dans les années qui suivirent, la région continua à se développer : en 1906, Erbenheim reçut l'électricité et l'eau, un hippodrome fut ouvert en 1907 et transformé en aéroport civil en 1910.

Les grandes auberges d'Erbenheim n'étaient pas seulement un lieu de rencontre apprécié des habitants de Wiesbaden, mais aussi des gens de la région. En particulier après les célèbres courses de chevaux d'Erbenheim entre 1907 et 1929, nombreux étaient ceux qui aimaient s'arrêter pour boire un verre dans les nombreuses auberges.

Les années qui suivent la Première Guerre mondiale entraînent de grandes pertes : 95 habitants d'Erbenheim sont victimes des combats et la commune est considérablement détruite. En 1928, la commune est rattachée à la ville de Wiesbaden. À l'époque du national-socialisme, 37 familles juives vivaient à Erbenheim. Beaucoup d'entre elles furent assassinées dans des camps d'extermination. La Seconde Guerre mondiale a apporté de nouvelles destructions avec 25 attaques aériennes et des tirs d'artillerie qui ont fait 77 morts.

Après la Seconde Guerre mondiale, Erbenheim connut un nouvel essor, favorisé par l'arrivée de réfugiés en provenance des anciens territoires allemands de l'Est. En 1950, la localité comptait 3.967 habitants, dont 681 personnes déplacées. L'urbanisation progressive a conduit à la création de nouveaux lotissements comme le Hochfeld (1960) et le quartier d'Erbenheim-Nord (1975). Au cours des décennies suivantes, de nombreuses écoles, centres communaux et immeubles d'habitation ont été construits.

En 1968, Alfred Hitchcock a tourné des scènes pour le thriller d'espionnage Topas sur l'aérodrome d'Erbenheim.