I Romani si stabilirono qui dal II al IV secolo d.C., come testimoniano i numerosi manieri romani lungo il Wäschbach. Dal VI all'XI secolo d.C. la zona fu abitata da una grande tribù di Franchi, come testimonia la cappella "Heydenkapelle" scoperta nel 1971. Erbenheim viene menzionata per la prima volta nel 927 in un documento dell'Abbazia di Sant'Orsola a Colonia.

Il toponimo Erbenheim compare nel X secolo come "Ersinesheim". Indica un insediamento del primo periodo francone, come confermano anche i ritrovamenti archeologici.

Nel Medioevo, Erbenheim apparteneva al Königssondergau e probabilmente era sotto il dominio dei conti di Nassau. Nel 1423, l'imperatore Sigismondo concesse al villaggio i privilegi di città. Questo permise agli abitanti di proteggersi con bastioni e di tenere un mercato settimanale. Il XIV secolo portò anche guerre e distruzioni. Nel 1461 la città fu incendiata da Magonza. Erbenheim subì gravi perdite anche durante la Guerra dei Trent'anni (1618-1648). Ciononostante, il villaggio rimase di grande importanza, soprattutto grazie alla chiesa di San Paolo, la cui torre si erge ancora oggi.

A partire dal XIX secolo, Erbenheim conobbe una fase di crescita e modernizzazione. La servitù della gleba fu abolita nel 1808 e la popolazione aumentò. Nel 1834 fu costruito il primo edificio scolastico, trasformato in municipio nel 1926. Dal 1876 Erbenheim fu collegata alla rete ferroviaria con la costruzione della ferrovia Ludwigsbahn. La regione continuò a svilupparsi negli anni successivi: Erbenheim ricevette l'elettricità e l'acqua nel 1906, un ippodromo fu aperto nel 1907 e trasformato in aeroporto civile nel 1910.

Le grandi locande di Erbenheim erano un luogo di incontro popolare non solo per gli abitanti di Wiesbaden, ma anche per quelli della regione. Soprattutto dopo le famose corse dei cavalli di Erbenheim tra il 1907 e il 1929, molte persone si fermavano a bere una birra nelle numerose locande.

Gli anni successivi alla Prima Guerra Mondiale portarono grandi perdite: 95 abitanti di Erbenheim furono vittime dei combattimenti e la comunità fu notevolmente distrutta. Nel 1928, la comunità fu incorporata nella città di Wiesbaden. Durante l'era nazionalsocialista, 37 famiglie ebree vivevano a Erbenheim. Molte di loro furono uccise nei campi di sterminio. La Seconda Guerra Mondiale portò ulteriore distruzione con 25 raid aerei e bombardamenti di artiglieria che causarono 77 vittime.

Dopo la Seconda guerra mondiale, Erbenheim ha conosciuto una nuova ripresa, favorita dall'afflusso di rifugiati provenienti dagli ex territori orientali tedeschi. Nel 1950, la città contava 3.967 abitanti, di cui 681 erano sfollati. La progressiva urbanizzazione portò alla fondazione di nuovi insediamenti come Hochfeld (1960) e il distretto di Erbenheim-Nord (1975). Nei decenni successivi sono state costruite numerose scuole, centri comunitari ed edifici residenziali.

Nel 1968, Alfred Hitchcock girò le scene del thriller spionistico Topas all'aeroporto di Erbenheim.