Калужская Николаевская мужская гимназия была открыта в 30 августа 1804 года на базе губернского четырехклассного училища. Она была подчинена Московскому университету. Управление и содержание пансиона было отдано в ведение гражданского губернатора. С первых дней, следуя уже сложившейся традиции, калужская общественность оказывала немалую материальную поддержку новому учебному заведению. Дворяне, купцы сделали приношения: книги, экспонаты для естественного кабинета. Были сделаны пожертвования средств на содержание пансиона. Эта традиция сохранялась и в последующие годы. Источники сохранили немало свидетельств о пожертвованиях.
Так, например, в 1814 году дворянство Калужской губернии определило вносить в течение 3 лет в пользу пансиона из помещичьих доходов по 30 копеек с владельческой души. Благодаря пожертвованиям дворян неприкосновенный капитал пансиона составил 95 тысяч рублей ассигнациями. Проценты с капитала вместе с отпускаемой ежегодно из кабинета Его Величества суммой составляли 10 тысяч рублей постоянного ежегодного дохода. На эту сумму содержались в пансионе сыновья родителей из дворянского сословия, в основном обедневших. Начало было положено трудами первого директора гимназии Онисима Григорьевича Потресова и учителя истории Григория Кирилловича Зельницкого. С их именами связано создание первой в Калуге типографии, издание журнала «Урания», начало систематических краеведческих изысканий. В разное время директорами и попечителями ее назначались авторитетные люди, чьи имена были широко известны: Семен Яковлевич Унковский (1832-1834) — статский советник, флотоводец, губернский предводитель дворянства; Семен Иванович Яновский (1834-1851) — мореплаватель, общественный деятель периода реформ Александра II; Сергей Васильевич Щербаков (1906-1918) — последний директор гимназии, известный астроном и педагог. Авторитетом пользовались духовные наставники, законоучители гимназии Иван Алексеевич Остроглазов и Александр Иванович Ростиславов. В 1812 году, когда Наполеон шел к Калуге, гимназия была на короткое время (до марта 1813 года) эвакуирована в Рязань. Новый гимназический устав 1828 года предусматривал известную социальную градацию в структуре учебных заведений: приходские училища предназначались для крестьян и мещан низшего класса, уездные — для купечества, обер-офицерских детей и дворян, гимназии — преимущественно для дворян. Гимназии остались общесословными заведениями, при них оставались «благородные пансионы» для детей дворян. В целом состав обучающихся был преимущественно дворянским. Так, из 60 учеников гимназии в 1810 году было 43 дворянина, 15 обер-офицерских детей и по одному из дворовых и вольноотпущенных крестьян. В 1896 году, когда число учащихся возросло до 325, дворян было 229, из городских сословий — 73, из сельских сословий — 14, из духовного сословия — 8. В соответствии с Уставом 1864 года гимназии подразделялись на классические и реальные. Калужская гимназия в 1865 году была преобразована в классическую с преподаванием латинского языка. В 1877 году в 5-й класс гимназии поступил известный философ, правовед и публицист Евгений Николаевич Трубецкой, отец которого был назначен вице-губернатором. Благодаря губернатору Александру Александровичу Офросимову в гимназии был сделан капитальный ремонт .В 1903 году в здании гимназии была освещена домовая церковь. Александр Александрович пожертвовал средства на иконостас, церковную утварь и книги. Патриарх Иерусалимский Дамиан прислал в дар церкви икону, освященную на Гробе Господнем и содержащую частицу камня от гроба. Городская дума учредила стипендию бывшего епископа Калужского Макария, которая присуждалась по решению педсовета гимназии. С мая 1903 года гимназия стала именоваться Николаевской. Начавшаяся первая мировая война стала еще одним испытанием для учебных заведений. Здание гимназии было отдано под госпиталь, гимназисты стали заниматься в здании женской гимназии, расположенной рядом. В 1915-1916 годах гимназисты организуют дружины для помощи в посеве и уборке урожая, организуют помощь семьям ушедших на фронт. В 1917 году был закрыт пансион. В 1918 году гимназия была преобразована в Советскую трудовую школу.