Después de que los diez hermanos metieran a José en un pozo, un grupo de mercaderes madianitas pasó por allí y se llevó a José a Egipto, donde fue vendido a Potifar. Aquel acto malintencionado fue el primer eslabón de una serie de acontecimientos que salvaron a todo Egipto de la hambruna, así como a los Hijos de Israel.
Los madianitas eran los descendientes de Madián, el cuarto de los seis hijos de Cetura con quien se casó Abraham después de la muerte de Sara(Génesis 25:1-2).
La Biblia los describe ocupando el territorio al este del río Jordán y el Mar Muerto, y hacia el sur por el desierto de Aravá. Parece claro por la narración bíblica, tanto antes como después del Éxodo, que su territorio se extendía hasta la península del Sinaí. Más tarde, en el período de la monarquía israelita, Madián parece haber ocupado una extensión de tierra entre Edom y Parán, camino de Egipto(I Reyes 11:18).
Madián volvió a desempeñar un papel destacado en la guía de los Hijos de Israel al acoger a Moisés en su exilio de 40 años de Egipto. Fue en Madián donde Dios se apareció a Moisés en la Zarza Ardiente. Moisés se casó con Séfora, la hija del sacerdote madianita Jetro. Y Jetro aconsejó a Moisés sobre el establecimiento de un sistema de toma de decisiones legales delegadas(Éxodo 18).

Pero a pesar de los años que Moisés vivió entre los madianitas, éstos asumieron un papel negativo después del Éxodo. Los madianitas, junto con los moabitas, intentaron llevar a los israelitas a adorar a Baal Peor. Una princesa madianita llamada Cozbi sedujo a Zimri, hijo de un jefe simeonita, encendiendo la ira de Finees. Más tarde, Madián se alió con Moab contra los hebreos cuando Balac contrató a Balaam para que los maldijera tras el Éxodo de Egipto(Números 22:4).
Moisés ordenó que los israelitas no hostigaran a los moabitas en su camino hacia la Tierra de Israel(Deuteronomio 2:9), pero la ira de Dios era mayor contra Madián que contra Moab. Más tarde, Dios ordenó a los Hijos de Israel que hicieran la guerra contra los madianitas(Números 31), pero no contra Moab. Cada una de las cinco tribus madianitas estaba gobernada por su propio rey, pero todas actuaron juntas contra su enemigo común, Israel. Los israelitas mataron a todos los madianitas, incluidos los cinco reyes, así como al hechicero Balaam. Según el versículo 49, los propios israelitas no sufrieron ninguna baja. Quemaron todas las ciudades y campamentos madianitas, pero esto no se consideró una matanza suficiente. Moisés preguntó: «¿Has dejado vivir a todas las mujeres?». Entonces ordenó que dieran muerte a todas las mujeres mayores, junto con todos los varones, dejando con vida sólo a las muchachas vírgenes para que se convirtieran en esposas de los soldados israelitas.
La matanza de los madianitas en tiempos del Éxodo no fue tan completa como hace parecer la narración. Los madianitas aparecieron en la época de los Jueces, oprimiendo a Israel durante siete años(Jueces 6) hasta que Gedeón derrotó a los ejércitos de Madián. Los madianitas eran tan poderosos en la región de la tribu de Manasés que los israelitas de allí se vieron obligados a abandonar sus campos y refugiarse en hendiduras de las montañas, cuevas y fortalezas. Junto con la tribu edomita de los amalecitas, hostigaron a los israelitas hasta el oeste de la ciudad filistea de Gaza, reduciéndolos a una pobreza extrema(Jueces 6:1-6).

Pero no todos los madianitas eran enemigos. El clan madianita conocido como los ceneos, descendientes de Jetro, se alió con los israelitas y acabó fusionándose con la tribu de Judá. La heroína del Libro de los Jueces, Yael, era la esposa de un ceneo que vivía entre los israelitas(Jueces 5:24).
Yael atrajo al comandante cananeo Sísara a su tienda y lo asesinó mientras dormía.
Isaías habla de camellos de Madián y Efa que vendrán a «cubrir tu tierra», junto con el oro y el incienso de Sabá, durante el tiempo de la redención definitiva(Isaías 60).
Los arqueólogos han sugerido que los madianitas participaron en las explotaciones mineras de Timna, en el sur de Israel, atribuyéndoles una cultura sofisticada y un nivel tecnológico relativamente avanzado. Algunos eruditos han relacionado provisionalmente a los madianitas con los restos de los hicsos, que una vez gobernaron Egipto, pero más tarde fueron expulsados y se establecieron en el desierto. También se les ha identificado con el pueblo al que los egipcios llamaban los shasu.