De son vrai nom Jean Tenenbaum, dernier de quatre enfants d'une famille juive modeste qui s'installe à Versailles en 1935, il poursuit ses études au Collège Jules Ferry. Durant la guerre, son père est déporté par les nazis et meurt à Auschwitz. Il doit donc quitter le lycée pour travailler afin d'aider financièrement sa famille. Déjà, à cette époque, il est attiré par la musique et le théâtre.
Au début des années 1950, il entre dans une troupe de théâtre, compose quelques chansons et joue de la guitare dans un orchestre de jazz. Il passe sans grand succès quelques auditions mais, ne se décourageant pas, décide de se consacrer exclusivement à la musique. Ainsi en 1956, il met en musique Les yeux d'Elsa, poème de Louis Aragon dont il est un admirateur. C'est André Claveau, alors en vogue, qui interprète la chanson et apporte à Jean Ferrat un peu de notoriété. Il se produit alors au cabaret parisien La Colombe de Michel Valette, en première partie de Guy Béart.
En 1958, il sort son premier 45 tours, mais ne rencontre guère de succès. Une jeune chanteuse, Christine Sèvres, reprend quelques-unes de ses chansons. Il l'épousera en 1961. C'est la rencontre en 1959 de Gérard Meys, qui deviendra son éditeur et son ami, qui relance sa carrière, il signe chez Decca et, l'année suivante, sort son second 45 tours avec la chanson Ma Môme, qui est son premier succès et passe sur les radios.
Sa rencontre avec Alain Goraguer, qui signera ses premiers arrangements sous le pseudo de Milton Lewis, sera par ailleurs décisive, ce dernier deviendra l'arrangeur attitré des chansons de Jean Ferrat.
Son premier 33 tours sort en 1961 et reçoit le prix de la SACEM. Il entame alors une longue carrière, émaillée de difficultés avec la censure. En effet, Jean Ferrat a toujours été un chanteur engagé. Il écrira ses textes ou mettra en musique ceux de ses amis poètes, Henri Gougaud et Georges Coulonges. (Voir la section discographie pour la suite).
En 1962, il fait la connaissance d'Isabelle Aubret. Un véritable coup de foudre amical a lieu entre les deux artistes. Ferrat lui écrit "Deux enfants au soleil", un des titres majeurs de la chanteuse, et lui propose la première partie de la tournée qu'il démarre alors. Il a aussi écrit et composé une chanson pour Daniel Guichard: "Mon vieux".
Jean Ferrat habitait dans la commune d'Antraigues-sur-Volane (près de Vals-les-Bains) en Ardèche, qui lui inspira d'ailleurs la chanson "La Montagne".
