Martinus Jan (Martien) Langeveld werd geboren op 30 oktober 1905 te Haarlem. Hij werd in 1921 ingeschreven aan het Amsterdamsch Lyceum en leerde daar de kinderen van Philip Kohnstamm kennen, met wie hij bevriend raakte. Op 30 juni 1925 voltooide Langeveld het gymnasium. Dat jaar schreef hij zich in aan de Universiteit van Amsterdam om Nederlands en filosofie te studeren. In zijn studentenjaren groeide het contact met Philip Kohnstamm, die zijn leermeester zou worden, en met de filosoof H.J. Pos. Onder invloed van Kohnstamm en Pos maakte Langeveld in de jaren dertig reizen door Duitsland. Hij volgde colleges bij onder andere Edmund Husserl, Martin Heidegger, William Stern en Theodor Litt.

Na zijn studie werkte Langeveld van 1931 tot 1939 als leraar Nederlands aan het Baarnsch Lyceum en in 1937 als privaatdocent aan de Universiteit van Amsterdam. Hij schreef er zijn proefschrift Taal en denken, waar hij in 1934 op promoveerde. In 1939 werd Langeveld, op voorspraak van Kohnstamm, benoemd tot buitengewoon hoogleraar pedagogiek aan de Universiteit van Utrecht en in 1941 werd hij, vanwege de Maatschappij tot Nut van ’t Algemeen, ook aan de Universiteit van Amsterdam bijzonder hoogleraar pedagogiek. In 1946 werd Langeveld benoemd tot gewoon hoogleraar te Utrecht in de pedagogiek, de algemene didactiek en de ontwikkelingspsychologie. Sedert 1931 heeft hij zich intensief beziggehouden  met de hulp aan ouders en kinderen in opvoedingsmoeilijkheden in het door hem gestichte en geleide Pedagogisch Instituut der Rijksuniversiteit te Utrecht. Langeveld was een aanhanger van de Utrechtse Fenomenologische School.

In 1971 ging Langeveld met emeritaat. Na zijn afscheid van de universiteit was hij enige tijd verbonden aan de ‘experimentele universiteit’ van Henri van Praag, te Lugano (Zwitserland). Hij bleef ook nog geruime tijd publiceren, Langeveld heeft meer dan 500 publicaties op zijn naam staan. Hij kreeg eredoctoraten aan de universiteiten van Zürich en Pretoria.

Langeveld overleed te Naarden op 17 december 1989.