Larry David, mit bürgerlichen Namen Lawrence Gene David, ist in Brooklyn aufgewachsen und besuchte zunächst die Sheepshead Bay High School und danach die University of Maryland, wo er 1969 ein Abschluss in Geschichte und 1970 in Wirtschaft machte. Bevor er Autor, Produzent und Schauspieler wurde, arbeitete er als Verkäufer, Limousinen-Fahrer und reparierte Fernseher. Zu dieser Zeit lebte er im Manhattan Plaza im Ney Yorker Stadteil Hell's Kitchen. Dort lebte auch Kenny Kramer, der die Inspiration für Cosmo Kramer in Seinfeld lieferte. Ins Showbusiness stieg David als Stand-Up-Comedian ein. Während seiner Shows bezog er oft das Publikum ein, und wenn er keine Verbindung zum Publikum spürte, ist er auch einfach von der Bühne gegangen.
Ab 1980 bis 1982 schrieb Larry David für und war auch Cast-Mitglied der ABC Late-Night-Show „Fridays“. 1983 war er in Nebenrollen in den Komödien „Second Thoughts“ und „Can she Bake a Cherry Pie“ zu sehen. Ab 1984 war er ein Jahr Autor für „Saturday Night Live“ und trat selbst regelmäßig in dem Close-Up-Sketch der Show auf. 1987 war er in Woody Allens Film „Radio Days“ und 1989 in „New York Stories“ zu sehen. Während seiner Zeit bei ABC lernte David die späteren Stars seiner Show Seinfeld kennen. Mit Michael Richards, der Kramer spielte, arbeitete er für „Fridays“, mit Julia Louis-Dreyfus (Elaine) für „Saturday Night Live“. David selbst war die Inspiration für den Dauernörgler George Costanzo. 1989 traf er Comedian Jerry Seinfeld und erschuf mit ihm die erfolgreichste Serie der amerikanischen Fernsehgeschichte Seinfeld, die von 1991 bis 1998 auf Sendung war. David ist auch in einigen Episoden als die Stimme von George Steinbrenner zu hören und war als Costanzos Cape-tragender Anwalt zu sehen. 1996 verließ er Seinfeld, kehrte aber zwei Jahre später zurück und schrieb das Serienfinale. David schrieb insgesamt 62 Episoden für Seinfeld und gewann 1993 für die Episode The Contest einen Emmy-Award. Diese Folge ist auch Nummer eins der „TV's Top 100 Episodes of All Time“ von TV Guide. Allein im Jahr 1998 verdiente David 250 Millionen US-Dollar mit Seinfeld, und verdient auch weiterhin Millionen mit der Serie.
1999 strahlte HBO Davids einstündiges Special „Larry David: Curb Your Enthusiasm“ aus. 2004 hat er eine Gastrolle als er selbst in Entourage. 2009 spielt er die Hauptrolle in Woody Allens Film „Whatever Works“.
Seit 2000 ist er in der improvisierten Serie Curb Your Enthusiasm, die ihm zufolge sein Selbst ohne soziales Bewusstsein und Sensibilität charakterisiert. Der Charakterbegeht regelmäßig soziale Fauxpas und gerät in Missverständnisse, was auch im amerikanischen Pop-Kultur-Lexikon als „Larry David Moment“, im Sinne von einer versehentlich geschaffenen sozial schwierigen Situation, definiert wurde. In den ersten sechs Staffeln von Curb Your Enthusiasm sind häufig Julia Louis-Dreyfus und Jason Alexander zu Gast, auch Jerry Seinfeld erscheint in einem Cameo-Auftritt. In Staffel sieben gibt es ein Wiedersehen mit allen Seinfeld-Hauptdarstellern. David wurde insgesamt zwölf Mal für den Emmy und drei Mal für den Golden Globe nominiert. 2017 gibt es eine neue Staffel von Curb, es ist die neunte und eine zehnte wurde ebenfalls beauftragt.
1993 hat David die Umweltaktivistin und Produzentin Laurie Lennard geheiratet. Die beiden haben zwei Töchter, Cazzie und Romy, und lebten in Pacific Palisades in Kalifornien. Wegen unüberbrückbaren Differenzen ließen sich Laurie und Larry 2007 scheiden.