Si des banques puissantes voient le jour en France au milieu du 19e siècle, elles ont pour vocation exclusive le financement de l'industrie et du grand négoce, et ne répondent pas aux besoins de crédit des petits producteurs, artisans ou cultivateurs. Ce constat est à l'origine de l'éphémère Banque du peuple fondée par Proudhon en 1849, puis de diverses expériences coopératives initiées simultanément dans trois foyers géographiques :
- En Alsace et en Moselle, sous le deuxième Reich, les établissements de crédit mutuel créées sur le modèle des caisses catholiques Raiffeisen, s'adressent à la petite paysannerie accablée par les pratiques usurières.
- L'Ouest est le centre de deux mouvements d'inspiration chrétienne. La Banque des travailleurs chrétiens, créée en 1878 par le père capucin Ludovic de Besse, ne pose pas d'exclusivisme confessionnel à l'accession au crédit, contrairement à l'Union des caisses rurales et ouvrières de France (UCROF), organisée en 1893 par l'avocat catholique conservateur Louis Durand.
- Dans les villes méditerranéennes, la bourgeoisie libérale et républicaine fonde des banques populaires pour les petits entrepreneurs et les artisans. A Marseille, l'économiste et homme d'affaires Eugène Rostand, initiateur du Centre fédératif de Crédit populaire, réunit en 1889 le premier congrès national des banques populaires.
Enfin, au tournant du 20e siècle, des caisses de crédit mutuel sont établies pour servir les besoins en équipement des agriculteurs et des marins-pêcheurs.

Encadrée par une première législation en 1917, la coopération de crédit est restée longtemps réservée aux commerçants, industriels et artisans. La caisse centrale du Crédit coopératif (4 C) est créée en 1938 pour soutenir le développement des coopératives. C'est dans le courant des années cinquante que le Crédit mutuel se défait progressivement de son image de banque des agriculteurs pour devenir la banque des ménages et des particuliers. Quant aux banques populaires, initialement au service de "la boutique et de l'atelier", elles se sont largement ouvertes aux salariés des classes moyennes à partir de la réforme de leur statut, en 1962. Banques à vocation sociale, les banques populaires et les caisses de crédit mutuel sont attachées à l'implication active de leurs sociétaires, détenteurs du capital en vertu du statut coopératif.