Es wurde immer wieder berichtet, dass er italienische Wurzeln hat, aber seine Familie stammt ursprünglich aus Osteuropa. Seine Mutter, Madeline Haukhauser, war tschechisch-ungarischer Abstammung und sein Vater Michael Falk hat russisch-polnische Wurzeln. Die Familie war jüdisch, jedoch nicht besonders gläubig. Peter Falk äußerte später, dass er sich nach seinem 13. Lebensjahr nicht mehr mit Religion befasst habe. Im Alter von drei Jahren wurde ein Tumor hinter seinem rechten Auge entdeckt.

In der Folge trug er deshalb seit seiner frühen Kindheit ein Glasauge. Das bedingte zudem die markante schlitzartige Verengung seines Lids, die zu einem der Markenzeichen von ‘Inspektor Columbo‘ wurde. Seine Behinderung stand ihm jedoch mehrfach im Wege. Zunächst bewarb sich der sportbegeisterte Falk – er spielte Baseball und Basketball – nach seinem Highschool-Abschluss bei der Marine. Dort wurde er jedoch aufgrund seiner Behinderung abgelehnt. Als Koch bei der Handelsmarine fuhr er anschließend dennoch 18 Monate lang zur See. Danach absolvierte er ein Studium der Literatur- und Politikwissenschaften.

Seinen Master machte er in Public Administration. In Hartford in Connecticut nahm er einen Job bei einer Finanzbehörde an, den er ohne große Leidenschaft ausübte. In seiner Freizeit wurde er dann Mitglied der Amateurtheatertruppe ‘Mark Twain Masquers‘ und nahm Schauspielunterricht bei Eva Le Gallienne, die für professionelle Schauspieler einen Abendkurs in Westport gab. Dieser Kurs war sein Einstieg in die Arbeit als Schauspieler. Peter Falk war in erster Ehe von 1960 bis 1976 mit Alyce Mayo, einer Modezeichnerin und Pianistin, verheiratet. Mit ihr hat er zwei Töchter.

1977 heiratete er die bedeutend jüngere Schauspielerin Shera Danese, die auch des Öfteren in ‘Columbo‘ an seiner Seite zu sehen war. Der Schauspieler starb am 24. Juni 2011 im Alter von 83 Jahren. Zwei Jahre nach seinem Tod wurde er mit einem Stern auf dem berühmten ‘Hollywood Walk of Fame‘ ausgezeichnet.