В 1908 году пистолет был разрешён для приобретения армейским офицерам в качестве личного оружия вместо револьвера наган, но в связи с высокой стоимостью (в среднем, около 40 золотых рублей) широкого распространения не получил. Кроме того, пистолетами (получившими наименование маузер № 2с 1909 года вооружали авиаторов, а в 1915-1916 гг. - автомобильные части и военнослужащих некоторых других специализированных подразделений. Некоторое количество трофейных пистолетов было захвачено в ходе первой мировой войны. Кроме того, пистолет продавался в качестве гражданского оружия.

Маузеры использовались РККА в ходе гражданской войны и оставались на вооружении командного состава РККА по меньшей мере до конца 1939 года. Во время советско-финской войны маузерами (в дополнение к трёхлинейному карабину) довооружали бойцов лыжных разведывательных групп РККА. После начала Великой Отечественной войны некоторое количество пистолетов было передано на вооружение советских партизан, ими были вооружены командиры ряда партизанских отрядов.