Natif de l’arrondissement Limoilou, à Québec, en 1943, Sylvain Lelièvre s’intéresse rapidement aux arts. Dans un premier temps, il goûte à la peinture, puis, la présence d’un piano à la maison le séduit et le stimule à découvrir son fort penchant pour la musique. Pianiste, sa tante Lucette lui prodigue les premiers rudiments du clavier. Il devient vite autodidacte en interprétant le répertoire classique des Chopin, Mozart et Beethoven. Du reste, le point tournant de son engouement musical est déterminé par le film The Eddy Duchin Story; reconstitution cinématographique du portrait du pianiste américain du même nom. Dès ce moment, le piano représente le centre de sa jeune existence.
Après deux ans passés à l’École d’architecture, il bifurque, en 1963, vers la Faculté de lettres de l’Université Laval, de laquelle il obtiendra son baccalauréat trois ans plus tard. Sylvain écrit des textes de théâtre et de poésie pour la radio, notamment dans le cadre de l’émission hebdomadaire de CBV (Radio-Canada Québec), Porte Saint-Louis, animée par son père, Roland.
C’est l’année de ses 20 ans qu’il participe au Concours International de Chanson sur mesure, de la Communauté radiophonique des programmes de langue française (Canada, France, Belgique et 
Suisse), dont il remporte le premier prix avec sa chanson Les amours anciennes, interprétée à cette occasion par Monique Leyrac. Il partage ensuite sa vie professionnelle entre l’enseignement de la littérature et l’écriture. Dès le milieu des années 1960, en s’accompagnant au piano, Sylvain se produit dans les boîtes à chansons de Québec. Ses concerts l’amènent à faire la connaissance de nombreux gens du métier, qui deviendront ses amis. Parmi ceux-ci, il y a entre autres Gilles Vigneault, Vic Angelillo, Clairette, Danielle Oddera et Frank Furtado, son futur impressario. Renée Claude enregistre deux de ses chansons sur disque, soit Hiroshima et Chanson du bord de l’eau.
En 1968, Sylvain quitte Québec et s’installe à Montréal. Il est engagé comme professeur de littérature au Collège de Maisonneuve. Dans cet établissement, Sylvain crée le premier cours de chanson au Québec. En parallèle à sa carrière d’enseignant, il publie aux Éditions de l’arc de son ami Gilles Vigneault Les trottoirs discontinus. Il récidive en 1972 avec Les sept portes. Sylvain enregistre son premier album éponyme, en 1973, sous étiquette Le Nordet, aussi de son ami Vigneault. Deux ans plus tard, Sylvain lance Petit matin, chanson composée avec Stéphane Venne qui connaît un succès instantané. Sur 
l’album figurent aussi Old Orchard, chantée en duo avec Fabienne Thibault. La même année, il livre un récital remarqué au Festival de la Chant’Août à Québec où il triomphe devant une foule de 12 000 spectateurs. En 1976, Sylvain revient sur disque avec le 33 tours Programme double qui expédie la chanson Marie-Hélène sur le hit-parades des stations de radio du Québec.
Le Théâtre de Marjolaine, à Eastman, est l’hôte en 1976 d’une comédie musicale de Michel Tremblay, Les héros de mon enfance, dont Sylvain signe la musique. Il récidive un an plus tard pour Folie douce de Roger Dumas. En 1978, Sylvain confirme sa signature en réalisant Lettre de Toronto, sur lequel figure aussi Le chanteur indigène. Multipliant les rôles, il produit cette année-là, également, le 33 tours Lettres sans adresse pour Danielle Oddera. Avec l’album Intersections, réalisé en 1979, Sylvain affirme ses préoccupations sociales avec Moman est là et La banlieue, de même que ses prises de positions politiques dans Tu vas voter et Une fois pour toutes.
Après avoir participé au Festival de la poésie à Paris (1980), au théâtre des Champs-Élysées, sa rentrée montréalaise à l’Atelier continu connaît un franc succès. En 1981, Sylvain réalise un album majeur enregistré au studio Saint-Charles, à Longueuil, auquel se joint l’Orchestre métropolitain. La production comprend un des titres les plus importants de son répertoire avec Venir au monde; s’y signale aussi Quand même, La règle du jeu et Dans le métro, écrite avec Robert Léger. Le Félix de la «meilleure réalisation» au gala de l’ADISQ la même année lui est décerné, ainsi qu’à Michel Lachance et Vic Angelillo. Suite à la publication d’un recueil de chansons et poème Entre écrire, en 1982, il prend part au Festival Mariposa de Toronto et est la tête d’affiche du spectacle d’ouverture du Festival d’été de Québec, puis, le printemps suivant, participe au Printemps de Bourges, en France, en compagnie de Maxime Le Forestier.
Son album À frais virés prend d’assaut les kiosques des disquaires avec deux titres populaires, le Drop out et Rock, banana split et crème soda, chanson interprétée en compagnie de Johanne Blouin. Cette 
année 1983 le couronne de la médaille Jacques-Blanchet dont il est le premier récipiendaire. Cette disctinction lui est attribuée pour honorer la persistance de la qualité, tant littéraire que musicale, de son œuvre d’auteur-compositeur. Un an et demi plus tard, en compagnie de l’harmoniciste Alain Lamontagne, Sylvain foule les planches du Théâtre de la Ville à Paris, en décembre 1984. Leur prestation en duo est chaudement applaudie. À son retour, Sylvain planche à l’écriture de son prochain album, Lignes de cœur. Production électronique léchée dont la sortie en 1986 gagne immédiatement les sommets des palmarès avec Tu danses trop vite et Lignes de cœur. Ce dixième opus comprend également Lune grise et Une lampe s’allume.
L’été 1986 marque le début de la collaboration précieuse entre Daniel Lavoie et Sylvain. Elle se concrétise une première fois sur l’album Vue sur la mer avec les titres à succès Je voudrais voir New York et Que cherche-t-elle? qu’ils composent avec Thierry Séchan. Sylvain participe ensuite à deux événements importants à l’été 1988 en livrant des récitals au Festival d’Azilah au Maroc, ainsi qu’au 
Festival de la chanson québécoise de Saint-Malo. À la fin de la décennie, Sylvain propose un nouvel enregistrement de ses compositions avec Un aller simple. Réalisation ecclectique contenant des titres aux sujets sociaux, politiques – particulièrement avec Place Tiananmen – et environnementales avec Ne coupe pas le mûrier et, surtout, Tôt ou tard, chanson qui sera interprétée en spectacle par Céline Dion lors de sa tournée Unison. De cet album sont tirés ses deux premiers vidéoclips avec Je flâne en chemin et Tout ça pour tromper l’ennui.
Le début des années 1990 souligne la tournée Un aller simple au Club Soda de même que la sortie de la compilation Ses plus belles chansons. Suit la publication d’un recueil de chansons À mots découverts chez VLB Éditeur et un disque important enregistré devant public, Qu’est-ce qu’on a fait de nos rêves, en 1994. Cet album reflète l’engouement musical de Sylvain pour le jazz, puisqu’il se commet dans un trio acoustique, accompagné de ses deux complices, Vic Angelillo, à la basse et contrebasse, et Gérard Masse, aux percussions. Le gala de l’ADISQ le récompense du Félix du «meilleur auteur-compositeur-interprète de l’année» pour cette production, où figure, pour la première fois, Les amours anciennes. 
Sacrée personnalité de la semaine du quotidien La Presse, Sylvain accumule les honneurs. Dans la foulée de cette effervescente année, les Francofolies de Montréal lui réserve, en août 1995, l’événement «La fête à Sylvain Lelièvre», où sont invités pour le célébrer une brochette de talentueux artistes, tels que Beau dommage, Michel Rivard, Daniel Lavoie, Isabelle Boulay, Danielle Oddera et Catherine Lelièvre – la surprise du spectacle, avec qui il interprète la chanson T’en fais pas tu l’auras.
Une nouvelle facette du talent de Sylvain Lelièvre se révèle à l’automne 1996 avec la publication d’une première œuvre romanesque Le troisième orchestre chez Québec-Amérique. Le récit, qui se déroule dans le Limoilou des années 1950, réussit le tour de force de rallier à la fois la critique et le grand public. La seconde collaboration sur disque avec Daniel Lavoie permet de découvrir la lancinante et mélancolique Je n’y suis pour personne. Sylvain replonge ensuite dans la production de disque et fait paraître en 1998 l’album acclamé par les critiques Les choses inutiles. Constitué des incontournables Le plus beau métier, Le joueur de piano – cosignée avec Daniel Lavoie –, Gravelbourg, et Drummondville, ce nouvel opus illustre de manière encore plus éloquente la tendance jazzistique qu’emprunte dorénavant Sylvain pour chacune de ses compositions. En 1999, ce dernier reprend la route avec un tout nouveau spectacle inspiré de cet album, incluant une grande rentrée montréalaise au Théâtre Corona.
Il entame ensuite le nouveau millénaire avec la sortie de L’intégrale 1975-1989, coffret regroupant huit albums produits au cours de ces 14 ans. Cette production soignée lui mérite le Félix de la «meilleure réédition/compilation». Le premier juillet 2000, dans le cadre du Festival de Jazz de Montréal, il présente un spectacle en sextette dans lequel figurent chansons, pièces instrumentales et quelques standards de jazz qu’il affectionne. L’accueil du public et de la critique est tel que le tournant jazz s’impose à lui. Le Grand Théâtre de Québec le reçoit pour le même récital jazz, trois mois plus tard. 
C’est ainsi que prend forme son dernier spectacle Versant Jazz, ovationné au Lion D’or, en novembre 2001 et en supplémentaires en février 2002. Le spectacle donne naissance à l’album Versant Jazz Live au Lion D’or, son seizième en carrière, sorti le 21 février 2002. Ce disque lui vaut le Félix de «l’album jazz de l’année» la même année.
La tournée de spectacles Versant Jazz est annoncée dans plusieurs villes du Québec et en France. Alors qu’au retour d’un atelier de chansons offert aux Îles-de-la-Madeleine, le 28 avril 2002, Sylvain est victime d’un malaise dans l’avion qui le ramène à Montréal. Il s’éteint le 30 avril à l’âge de 59 ans, à l’Hôtel-Dieu de Lévis, des suites d’une embolie cérébrale gazeuse sévère.
Depuis sa disparition, Sylvain est l’objet de nombreuses commémorations. Inauguré en juillet 2004, le parc Sylvain-Lelièvre
est un hommage que lui a rendu la Ville de Québec. Deux salles de spectacles portent son nom : les salles Sylvain-Lelièvre du Cégep Limoilou et du Collège de Maisonneuve. Les villes de Repentigny, Vaudreuil-Dorion et Rimouski possèdent toutes une rue Sylvain-Lelièvre et la ville de Mirabel a baptisé une aire de jeux, parc Sylvain-Lelièvre. En 2013, un ouvrage de collages intitulé Toi l’ami. Cent regards sur Sylvain Lelièvre réunit des témoignages et des photos d’archives de la carrière de l’artiste. Au cours de l’été 2015, dans le cadre de l’émission L’Espace d’une chanson, Télé-Québec choisit la pièce La basse-ville de Sylvain Lelièvre pour décrire le quartier de son enfance : Limoilou.
L’hebdomadaire Voir lui a rendu hommage à l’occasion de son décès, en 2002. Voici les témoignages recueillis : François Desmeules, Pierre Morency et Michel Rivard.