Si l’idée d’un regroupement mutualiste national apparaît aux débuts de la IIIe République, il faut attendre 1902 pour que se constitue la FNMF, au même moment que partis politiques et syndicats. Sous l’impulsion de son président Léopold Mabilleau, elle se consacre à la promotion du mouvement, notamment à travers de multiples fêtes nationales et départementales qui la font mieux connaître. Mais l’assise techniques de la FNMF reste faible comme on le verra durant la Grande Guerre. A partir de 1925, dans la perspective des Assurances sociales, a lieu la seconde naissance de la FNMF : elle se dote d’un budget, de ses premiers services et se donne les moyens d’assurer la direction politique effective de l’ensemble des mutualistes. De 1930 à 1945 où elle gère les Assurances sociales, elle développe aussi un réseau de caisses chirurgicales à travers la Fédération nationale des caisses chirurgicales mutualistes, définitivement constituée en 1941.

La mise en place de la Sécurité sociale est d’abord difficile pour la FNMF. Elle s’interroge devant le nouveau système, perd dans un premier temps les 9/10 de son personnel et une partie de son patrimoine. Mais rapidement la FNMF s’adapte au nouveau cadre de la protection sociale et modernise ses structures. La Fédération nationale des mutuelles de fonctionnaires et agents de l’Etat (FNMFAE) devenue Mutuelle de la Fonction publique (MFP) en 1988 participe activement à cet effort de rénovation. Par ailleurs, la mutualité se rapproche du monde du travail, dans le cadre de la société d’entreprise, pleinement reconnue par la FNMF en 1964 et le développement de la Mutualité interprofessionnelle dans le sillage des Caisses chirurgicales. Le rapprochement de la mutualité avec le monde du travail se traduit également par la création, à l’initiative de la CGT en 1960, de la Fédération nationale des mutuelles ouvrières (FNMO), future Fédération des mutuelles de France (FMF). FNMF et FMF ont mené à terme, en 2002, le long processus de l’unification, amorcé dans les années 1970.