La bibliothèque musicale Peters a été fondée par Max Abraham, propriétaire de l'éditeur de musique CF Peters. Début 1894, la première bibliothèque publique spécialisée au monde a été ouverte au 26, Königstrasse (aujourd'hui Goldschmidtstrasse). Ce qui était également unique au monde, c'était que les femmes étaient également autorisées à utiliser la bibliothèque.
Après la mort d'Abraham, la bibliothèque fut offerte à la ville de Leipzig comme fondation, selon son testament. Après le Reichsprogromnacht de 1938, son neveu et successeur, le juif Henri Hinrichsen, fut interdit de travail. S’ensuit une vente forcée et une « aryanisation » de la maison d’édition. Hinrichsen a été tué dans le camp de concentration d'Auschwitz. Après la fin de la Seconde Guerre mondiale, le fils de Hinrichsen, Walter, aujourd'hui citoyen américain, récupère la maison d'édition et la bibliothèque Peters. Depuis 1954, la collection, ainsi que la collection musicale de la ville, sont conservées dans la bibliothèque musicale municipale.