У 1856 р почав службу в лейб-гвардії Преображенському полку. Одночасно брав уроки фортепіанної гри у піаніста А. А. Герке. Тоді ж познайомився з А С. Даргомижським і М. А. Балакірєвим, за допомогою якого вивчив теорію музики і композиції. Незабаром Мусоргський став постійним учасником зборів музичного гурту «Могутня купка».
У 1858 р він вийшов у відставку в чині прапорщика, щоб уже цілком присвятити себе музиці. У 1867 р написана симфонічна картина «Ніч на Лисій горі». До 1868 р Мусоргський створив романси на вірші Н. А. Некрасова і А. Н. Островського, а також на власні тексти. За порадою літературознавця В. В. Нікольського композитор приступив до роботи над оперою на сюжет поеми А. С. Пушкіна «Борис Годунов» за власним лібрето.
У 1874 р прем'єра «Бориса Годунова» відбулася на сцені Маріїнського театру в Петербурзі; опера мала великий успіх. Це було торжеством всієї «Могутньої купки», саме в цій опері Мусоргський особливо яскраво втілив основні ідеї членів гуртка. Центральна партія Бориса була улюбленою в репертуарі Ф. І. Шаляпіна. У 1872 р Мусоргський написав свій перший вокальний цикл «Дитяча», для якого сам склав текст. У 1873 р він почав роботу над «народної музичної драмою» «Хованщина» на сюжет, запропонований критиком В. В. Стасовим. Начорно опера була закінчена влітку 1880 р але лише після смерті Мусоргського остаточно дописана і інструментував Н. А. Римським-Корсаковим.
У 1874 р Мусоргський написав десять музичних ілюстрацій до акварельних малюнках художника В. Є. Гартмана «Картинки з виставки» - віртуозні п'єси для фортепіано. Через рік він почав роботу над вокальним циклом «Пісні і танці смерті» (на вірші А. А. Голенищева-Кутузова), який завершив в 1877 р
У 1876 р Мусоргський задумав нову лірико-комедійну оперу «Сорочинський ярмарок» на сюжет повісті М. В. Гоголя. Над нею він працював до кінця життя, але закінчити її так і не встиг (опера закінчена Ц. А. Кюї). У 1879 р важке матеріальне становище змусило Мусоргського знову вступити на службу в ревізійну комісію Державного контролю, де він прослужив до самої смерті.