Пистолет был разработан работниками компании «Маузер» — братьями Фиделем, Фридрихом и Йозефом Федерле (Feederle). Фидель Федерле заведовал экспериментальным цехом оружейного завода «Маузер» (Waffenfabrik Mauser), и новый пистолет изначально назывался P-7.63 или пистолет Федерле. В дальнейшем, пистолет был запатентован на имя Пауля Маузера в Германии в 1895 г. (немецкий рейхспатент № 90430 от 11 сентября 1895 года), в Великобритании в 1896 г.
В 1896 году были изготовлены первые пистолеты, в 1897 году началось их серийное производство, которое продолжалось до 1939 года. За это время было выпущено более миллиона пистолетов C96.
Одна из причин, по которой пистолет Маузера стал популярен — его огромная, по тем временам, мощность. Пистолет позиционировался как легкий карабин, чем он в сущности и являлся: деревянная кобура использовалась в качестве приклада, а убойная сила пули заявлялась на дальность до 1000 м (правда, при этом разброс пуль по горизонтали для неподвижно закреплённого пистолета мог составлять несколько метров, так что о прицельной стрельбе на такую дальность не могло быть и речи).
Вторая причина — немалая стоимость такого оружия придавала владельцу больший вес как в самооценке, так и в обществе.
