Los romanos se asentaron aquí entre los siglos II y IV d.C., como demuestran las numerosas casas señoriales romanas a lo largo del Wäschbach. Del siglo VI al XI d.C., la zona estuvo habitada por una gran tribu franca, como demuestra la capilla "Heydenkapelle" descubierta en 1971. Erbenheim se menciona por primera vez en un documento de la abadía de Santa Úrsula de Colonia en 927.

El topónimo Erbenheim aparece en el siglo X como "Ersinesheim". Indica un asentamiento en la primera época franca, lo que también confirman los hallazgos arqueológicos.

En la Edad Media, Erbenheim pertenecía al Königssondergau y probablemente estuvo bajo el dominio de los condes de Nassau. En 1423, el emperador Segismundo concedió al pueblo privilegios de ciudad. Esto permitió a sus habitantes protegerse con murallas y celebrar un mercado semanal. El siglo XIV también trajo guerras y destrucción. En 1461, la ciudad fue incendiada por Maguncia. Erbenheim también sufrió grandes pérdidas durante la Guerra de los Treinta Años (1618 a 1648). No obstante, el pueblo siguió siendo de gran importancia, sobre todo debido a la iglesia de San Pablo, cuya torre sigue en pie hoy en día.

A partir del siglo XIX, Erbenheim experimentó una fase de crecimiento y modernización. En 1808 se abolió la servidumbre y la población aumentó. En 1834 se construyó el primer edificio escolar, que se convirtió en ayuntamiento en 1926. A partir de 1876, Erbenheim se conectó a la red ferroviaria con la construcción del ferrocarril Ludwigsbahn. La región siguió desarrollándose en los años siguientes: Erbenheim recibió electricidad y agua en 1906, se inauguró un hipódromo en 1907 y se convirtió en aeropuerto civil en 1910.

Las grandes posadas de Erbenheim eran un popular punto de encuentro no sólo para los habitantes de Wiesbaden, sino también para la gente de la región. Especialmente después de las famosas carreras de caballos de Erbenheim entre 1907 y 1929, mucha gente disfrutaba parando a tomar una pinta en las numerosas posadas.

Los años que siguieron a la Primera Guerra Mundial trajeron consigo grandes pérdidas: 95 residentes de Erbenheim cayeron víctimas de los combates y la comunidad quedó considerablemente destruida. En 1928, la comunidad fue incorporada a la ciudad de Wiesbaden. Durante la época nacionalsocialista, 37 familias judías vivían en Erbenheim. Muchas de ellas fueron asesinadas en campos de exterminio. La Segunda Guerra Mundial trajo más destrucción con 25 ataques aéreos y bombardeos de artillería que se cobraron 77 vidas.

Tras la Segunda Guerra Mundial, Erbenheim experimentó un nuevo auge, favorecido por la afluencia de refugiados de los antiguos territorios orientales alemanes. En 1950, la ciudad contaba con 3.967 habitantes, 681 de los cuales eran personas desplazadas. La progresiva urbanización llevó a la fundación de nuevos asentamientos como Hochfeld (1960) y el distrito de Erbenheim-Nord (1975). En las décadas siguientes se construyeron numerosas escuelas, centros comunitarios y edificios residenciales.

En 1968, Alfred Hitchcock rodó escenas del thriller de espionaje Topas en el aeródromo de Erbenheim.