Creció en Sheepshead Bay, Brooklyn y estudió en la Escuela Secundaria de Sheepshead Bay. Nos cuenta de su juventud: "yo tuve una infancia maravillosa, lo que es difícil porque es muy duro adaptarse a una madurez miserable." Esta no es una cita sorprendente proveniente de un hombre cuyo alter ego vio la luz en el personaje de George Costanza en la serie de televisión: "Seinfeld," de la que fue co-creador.

Después de estudiar en la Universidad de Maryland, David se embarcó en una carrera como cómico en 1974. Esa carrera estuvo aderezada con varios trabajos distintos, incluyendo el de conductor de taxi, vendedor de ropa interior para señoras y chófer privado. En 1979, se mudó a Los Ángeles donde fue contratado como escritor y artista para la serie cómica: "Fridays." El programa duró hasta 1982, momento en el cual se mudó nuevamente a Nueva York y eventualmente obtuvo el trabajo de escritor en la serie: "Saturday Night Live."

Amigo de Jerry Seinfeld desde 1976 cuando los dos trabajaban en clubes de comedia, Seinfeld le pidió consejo a David en 1988, cuando le pidieron que hiciera un programa para la cadena NBC. Los dos tuvieron la idea de "Seinfeld," que fue estrenado en 1989, y se convirtió en uno de los programas más exitosos de la historia de la televisión. David apareció ocasionalmente en el programa, interpretando al dueño de los New York Yankees: George Steinbrenner. Fue nominado siete veces a los Premios Emmy por escribir para "Seinfeld", y lo obtuvo en 1993 por el que es hoy en día un episodio clásico: "The Contest". Ese año compartió igualmente un Premio Emmy en la categoría de "Mejor serie de comedia" (así como otras seis nominaciones). Además, David obtuvo Premios WGA por su trabajo en "Seinfeld" en 1994 y en 1995. Dejó el programa tras ser jefe de escritores y Productor ejecutivo durante siete temporadas, pero volvió, dos años después en 1998, para escribir el final de la serie.

También en 1999, David escribió y protagonizó: "Larry David: Curb Your Enthusiasm," un especial de una hora de duración para la cadena HBO, que daría lugar a la aclamada serie de HBO el año siguiente. El programa estuvo en el aire en la cadena HBO durante seis temporadas entre 2000 y 2007. David fue nominado tres veces a un Premio Globo de Oro en la categoría de Mejor Actor en un Musical o Serie de comedia (2003, 2005, y 2006) por su trabajo en "Curb Your Enthusiasm". El programa también recibió un Premio Globo de Oro en la categoría de Mejor Serie de televisión, Musical o Comedia en 2003. Además, "Curb" fue nominada cuatro veces a los Premios Emmy en la categoría de Mejor serie de comedia, y en 2003, David fue también nominado en la categoría de Actor principal en una Serie de comedia. En 2006, David obtuvo un Premio WGA en la categoría de Mejor Serie de comedia por su trabajo como escritor en "Curb" y fue nominado nuevamente en 2007.