Dans les années 1970, Anderlecht devait beaucoup de son succès à Robbie Rensenbrink, notamment sur la scène européenne. Cependant, l'hégémonie que le club avait construit au niveau national en 30 ans, le club la devait à l'attaquant anversois Jozef Mermans. Sous la direction du 'Bombardier', qui était arrivé au club en pleine 2e Guerre Mondiale, le club, qui n'avait alors jusque là glané aucun trophée, commença à étoffer son palmarès. Sur les 15 années que Jef fut à la pointe de l'attaque anderlechtoise, le club remporta 7 titres nationaux. Mermans y apporta plus qu'une pierre à l'édifice, car il marqua 249 buts dans cette période. Il est d'ailleurs jusqu'à ce jour encore le meilleur buteur de toute l'histoire d'Anderlecht, avec 13 réalisations de plus que Paul Van Himst, une autre figure emblématique du Sporting.

Mermans est né le 16 février 1922 à Merksem et ne voyait qu'une seule chose quand il était gamin: un ballon de foot. Selon la légende, tout a commencé lorsque le petit Jef devait aller le jour de son 4e anniversaire chez un photographe pour faire un portrait de lui. Il était tellement nerveux et excité que le photographe ne voyait qu'une seule solution pour le calmer: lui mettre un ballon rouge en mains. Après la séance de photographie, le petit Mermans ne voulait plus lacher ce ballon. Sa mère se voyait ainsi contrainte de mettre la main au porte-feuille et d'acheter le ballon pour la somme de 10 francs, une petite fortune à l'époque. Les années suivantes, les parents de Jef durent à plusieurs reprises casser leur tirelire pour payer les dégâts de vitre occasionnés par leur fils, mais ça en valait la peine quand on connait sa technique de frappe.

Jef Mermans s'entraînait souvent sur un terrain déserté rue Eugène Mees, pas loin du Palais des Sports de Deurn. Il faisait partie de l'élite locale surnommée 'Les jeunes loups', qui jouait en rouge et blanc, les couleurs de l'Antwerp, où leur idole Désiré 'Dis' Bastin jouait. Mais quand ils voulurent signer une carte de membre au 'Great Old', on les refusa car ils n'avaient pas suffisamment d'argent que pour payer. Ils trouvèrent alors refuge au Tubantia Borgerhout, où Mermans fut inscrit en 1932. Quelques semaines plus tard, il commençait en tant que milieu central. Tout le monde avait vite compris qu'il était bourré de talent et on l'autorisa rapidement à évoluer dans une catégorie plus élevée. Lors d'un derby entre Tubantia Borgerhout et Olse Merksem par exemple, remportée 17-0 par Tubantia, Mermans marqua 10 fois. Il était alors évident que la Belgique tenait là une vraie machine à goals.

Le Beerschot et l'Antwerp s'étaient déclaré la guerre pour s'attirer les services du buteur qui entretemps avait fait son apparition en sélections nationales des juniors et des espoirs. La direction du Kiel proposa même pour les services de Mermans la somme de 100.000 francs plus 4 joueurs. Mais c'est Anderlecht qui eut le dernier mot, en déposant sur la table une somme jamais atteinte pour l'époque: 125.000 francs. Mais ce n'est pas l'argent uniquement qui influença le choix: Tubantia, alors en Division 2, craignait qu'un transfert au Beerschot ou à l'Antwerp ferait par conséquent fuir tous ses spectateurs. Alors que la saison 1941-1942 arrivait déjà à son terme, Anderlecht ne voulait pas attendre plus longtemps avant de tester les qualités de son nouvel attaquant. Dans un premier temps, il prit place sur le banc et ensuite pour son premier match en équipe A: pour le dernier match à domicile contre La Gantoise, Mermans fit sa première apparition avec le maillot d'Anderlecht et déposa déjà sa carte de visite. Anderlecht remporta le match 6-1 et Mermans marqua la moitié des buts de son équipe. Cependant, sa participation au match n'était pas réglementaire et Anderlecht perdit finalement le match 0-5 sur tapis vert.

Dans son livre "Le football et moi", Mermans écrit: "Ma première apparition est accompagnée d'un incident comique. Certains membres du personnel à Anderlecht me refusaient littéralement l'entrée au stade".

En 1948, 1949 et 1951, Mermans fut meilleur buteur du championnat avec respectivement 38, 23 et 37 réalisations. Il suscitait ainsi l'intérêt de plusieurs grands club européens. Racing Paris, Arsenal, Torino, AS Roma, Lazio Roma, Atletico Madrid et Atalanta Bergame faisaient tous des tentatives pour le transférer, car ils le considéraient avec le Suédois Gunnar Nordhal comme un des meilleurs attaquants de toute l'Europe. Mermans lui-même était tenté par l'aventure européenne et l'argent qui en découlerait, mais la direction anderlechtoise et son président Albert Roosens s'y sont fermement opposé, même quand Torino venait avec une offre de 20 millions de lires. L'AS Rome fit une offre en 1951 de 30 millions de lires, un appartement de 7 chambres, une Alfa Roméo qui s'arrêta en juin 1951 avec un numéro Corps Diplomatique devant la maison de Mermans. Enfin, il y a encore eu l'offre du Real Madrid qui était prêt à déposer 700.000 francs sur la table. Mermans était évidemment déçu, mais poursuivait ses efforts pour Anderlecht en marquant de nombreux buts. Il faut dire aussi qu'il pouvait toujours compter sur des passes de grande qualité de la part des flancs, à savoir Woltje Dewael et Susse Sermon.

Après 15 années de loyaux services, Mermans quitta le Parc Astrid le 15 août 1957 lors d'une rencontre amicale contre VUC La Haye. Il termina sa carrière au Olse Merksem, sa commune natale où il devint par la même occasion fonctionnaire communal, d'abord comme joueur, ensuite comme entraîneur. En tout, il joua 56 fois pour l'équipe nationale entre 1945 et 1956 et marqua 26 buts.