Храм возводился силами солдат. Был построен бревенчатый дом с деревянным крестом над двускатной крышей, размером 19 на 8,5 метров с восемью окнами, притвором и папертью. Иконостас соорудили из корабельного паруса белого цвета на деревянной раме. Купол и колокольню заменял малый судовой колокол под навесом рядом с церковью.
1 апреля 1862 года о первом богослужении оповестил выстрел десантной пушки. В сентябре 1863 года здесь были крещены первые дети, 8 января 1865 года состоялось первое венчание.
14 августа 1876 года накануне праздника Успения Пресвятой Богородицы заложили Успенский собор по проекту инженера В. С. Шмакова. В 1886 году его заменил проект архитектора Миллера. Собор высотой купола 35 метров вмещал около тысячи молящихся. Освятили храм в декабре 1889 года.
Собор выделялся среди городских зданий стройностью и строгостью наружной отделки. Указом Святейшего Синода от 5 января 1899 года был переименован в кафедральный.