1948–1949
Devance l’appel et fait son service militaire au 15e Wing de Transports et Communications, dans la périphérie bruxelloise (1er juin 1948-1er juin 1949). Libéré avec le grade de caporal, commence à écrire des chansons qu’il interprète à la guitare (« Il y a un ton émotionnel que l’on n’obtient pas sans musique »), lors des soirées de la Franche Cordée. « On essaie de faire des petits trucs, de réaliser de petits rêves. On pousse des cris de joie ou de tristesse. Ensuite, on pousse la mauvaise éducation jusqu’à essayer de les présenter, de les offrir au public. »
1950–1951
Épouse le 1er juin 1950, à Laeken, Thérèse Michielsen, dite Miche (née le 30 décembre 1926), rencontrée à la Franche Cordée, dont il aura trois filles : Chantal (6 décembre 1951), France (12 juillet 1953) et Isabelle (23 août 1958). « Vivre en compagnie de certaines femmes est l’acte le plus paresseux. C’est un acte de vampire, très souvent. On s’en remet doucement à l’amour d’une dame et puis, quand on a fait le tour de cet amour, on s’en va. »
1952
Travaille à la cartonnerie Vanneste et Brel tout en écrivant des chansons et en passant des auditions dans les cabarets bruxellois. Débuts de chanteur au Coup de Lune et surtout à la Rose noire, petite rue des Bouchers, près de la Grand-Place. « Si un type débute, c’est parce qu’il se dit : “J’ai quelque chose à raconter qui est différent de ce qui se raconte constamment.” » Première émission de radio, invité par Angèle Guller dans « La Vitrine aux chansons ». « J’ai essayé de faire des chansons surtout parce que j’avais envie de raconter quelque chose. J’aurais voulu écrire des quatuors à cordes ou des symphonies… J’aurais bien voulu écrire des romans… »
1953
Prend de façon très provisoire le pseudonyme de « Jacques Bérel, fantaisiste » et chante le samedi à la Rose noire. Le 17 février, Clément Dailly, l’un des responsables de Philips-Belgique (et mari d’Angèle Guller), lui fait enregistrer avec un orchestre musette un premier 78 tours (Il y a et La Foire) qui sort seulement en Belgique et sera vendu à deux cents exemplaires. Lors de cette séance, il enregistre aussi Il pleut et Sur la place, seul à la guitare, sur un disque souple, une maquette acétate 78 tours qui sera adressée à Jacques Canetti : celui-ci, séduit, téléphone en mai à Bruxelles pour qu’il vienne le voir. Le 31 mai, il quitte son emploi à la cartonnerie. « Je suis parti parce que j’avais peur de devenir trop vite vieux, trop vite mort. J’ai eu envie de partir physiquement à la recherche de quelque chose. Et ce quelque chose, je ne l’ai pas trouvé. Mais je le cherche encore. C’est pour ça que je ne suis pas encore bien adulte peut-être. »
Le 20 juin, il passe une audition devant Canetti qui l’engage pour deux semaines en septembre au théâtre des Trois Baudets. Multiplie les auditions à Paris durant l’été, sans succès. En juillet, revenu à Bruxelles pour la naissance, le 12, de sa fille France, il termine dernier au casino de Knokke-le-Zoute à la Coupe d’Europe du tour de chant. Les 14 et 21 août, Jef Claessen, producteur radio à la BRT, l’invite à enregistrer vingt-six titres dans leur studio d’Hasselt (cachet : 600 francs belges). En novembre, après les Trois Baudets, où il rencontre Georges Brassens (et où il se produira régulièrement jusqu’à la fin des années 1950), il chante à l’Écluse (« J’ai passé une audition à l’Écluse, écrit-il alors à Miche ; nous étions plus ou moins soixante et je suis le seul engagé immédiat. Je te jure que je suis très content »), Chez Geneviève, à Montmartre et à l’Échelle de Jacob chez Suzy Lebrun, sur recommandation de Brassens.
1954
Tournée des cabarets (Chez Patachou, etc.) ; signe le 12 février chez Philips et enregistre le 17 (en direct avec les musiciens d’André Grassi) les neuf titres de son premier album 25 cm commercialisé en mai (échec critique et commercial), dont deux titres, Il peut pleuvoir et C’est comme ça, sortiront d’abord sur son premier 78 tours français (et quatre autres sur son premier 45 tours EP en mai 1955). Rencontre celui qui deviendra son meilleur ami, Georges Pasquier (dit Jojo), membre des Trois Milson, groupe fantaisiste de bruiteurs-imitateurs à l’affiche des Trois Baudets (avril). Le 28 mai, Juliette Gréco, en tête d’affiche à l’Olympia (inaugurée le 5 février, sous la direction de Bruno Coquatrix, par Lucienne Delyle et Gilbert Bécaud en « vedette américaine »), crée Le Diable (Ça va). Premier passage à l’Olympia en « supplément de programme » (Damia en vedette, avec Billy Eckstine, Claude Vega et Jean Wiener) avec trois titres à la guitare (du 8 au 22 juillet) ; première tournée Canetti d’été (« Festival du disque ») avec Sidney Bechet, Philippe Clay, Dario Moreno et Catherine Sauvage (du 25 juillet au 31 août) ; première tournée à l’étranger, en Algérie et au Maroc (octobre), en compagnie notamment des Trois Milson. « Je crois naïvement au cœur. […] J’ai envie qu’on m’aime bien, et puis j’ai envie de bien les aimer. Tout ça est très primaire, je ne m’en cache pas. Mais c’est comme ça que je suis bien dans ma peau. »
1955
Premier passage à l’Ancienne Belgique de Bruxelles (janvier). Échaudé par l’échec du premier album, Canetti lui fait enregistrer (avec Michel Legrand à la direction d’orchestre) un second 78 tours (Les Pieds dans le ruisseau et S’il te faut) et un troisième titre (Qu’avons-nous fait, bonnes gens ?) en vue d’un prochain 45 tours. S’installe en banlieue parisienne, à Montreuil, avec sa femme et ses deux filles (mars). Nouvelle tournée d’été et début d’une liaison avec Suzanne Gabriello, membre du trio Les Filles à papa. Galas en province et en Belgique, ronde des cabarets. « J’ai fait très longtemps sept cabarets par nuit. Ce qui est énorme. Quand je repense à ça, j’ai peur. Je faisais neuf chansons par cabaret, donc ça faisait soixante-trois chansons par nuit… »
1956
Sortie du 45 tours n° 2, avec six titres enregistrés entre février 1954 et octobre 1955. Tournée (Afrique du Nord, Amsterdam, Lausanne et Belgique). Le 23 juillet à Grenoble, rencontre François Rauber, étudiant au Conservatoire de Paris, qui a été engagé comme pianiste pour une tournée d’été Canetti et qui va désormais l’accompagner, restant jusqu’à la fin son arrangeur et directeur d’orchestre. Premier passage en lever de rideau à l’Alhambra (deux chansons) dans le programme de Maurice Chevalier (28 septembre). Cabarets : le Drap d’or, l’Échelle de Jacob, la Villa d’Este, Chez Patachou… Premier succès avec Quand on n’a que l’amour (45 tours 5 titres n° 3 sorti en novembre). « Je n’arrive pas à écrire rapidement. Ça dure quatre mois, cinq mois, six mois. On attrape une idée au vol, on essaie de la garder… J’essaie de mettre ça sur des feuilles de papier, avec des mots. C’est lent. Pour Quand on n’a que l’amour, il y avait une dame qui parlait à la radio. Et elle devait dire des choses très graves, très sérieuses… Je ne me souviens plus du tout ce qu’elle racontait. Mais, brusquement, il m’est venu à l’esprit que tout ça c’était bien joli, mais que c’était l’amour l’essentiel. […] Et la chanson est venue très vite. […] Il y a eu un enchaînement de mots, un enchaînement d’accords, un enchaînement de notes qui font que, brusquement, tout se cristallise. »