Родился 13 (25 февраля) 1861 года в селе Валуец Стародубского уезда Черниговской губернии (ныне Почепский район Брянской области). Выходец из малороссийского дворянства (Черниговской губернии), был третьим сыном штабс-ротмистра (кавалерийский обер-офицерский чин, соответствующий современному капитану) Григория Семёновича Щегловитова (1821—1887), которого дважды (в 1853—1854 и 1860—1887) избирали Стародубским уездным предводителем дворянства, владевшего частью Валуйца.
В 1881 году окончил Императорское училище правоведения с золотой медалью.
С 1885 года товарищ прокурора Нижегородского, с 1887 года — Петербургского окружного суда. C 1894 года — прокурор Санкт-Петербургского окружного суда, с 1895-го — товарищ прокурора столичной судебной палаты.
Принимал участие в составлении проекта дисциплинарного устава для служащих гражданского ведомства, а также в трудах комиссии по пересмотру законоположений по судебной части, для которой им составлена объяснительная записка к проекту новой редакции устава уголовного судопроизводства, содержащая подробное историческое обозрение научного материала и иностранной практики.
В 1898 году назначен товарищем обер-прокурора уголовного кассационного департамента Правительствующего сената, с того же года — в Первом департаменте Сената. В 1900—1903 годах вице-директор Первого департамента Министерства юстиции. В 1903—1905 годах обер-прокурор уголовного кассационного департамента Сената. С 22 апреля 1905 возглавлял Первый департамент Министерства юстиции.
В 1903 году был приглашён читать в Императорское училище правоведения лекции по теории и практике уголовного судопроизводства. Приобрёл такой авторитет в области криминологии, что уголовное отделение Петербургского юридического общества избрало его своим председателем.
С 1 февраля 1906 года товарищ министра юстиции при министре Михаиле Акимове.
Назначен министром 24 апреля 1906 года, 1 января 1907 года — также и членом Государственного совета. 7 февраля 1908 года на его жизнь неудачно покушалась Лидия Стуре. С 1911 года — сенатор. «Холодный и жестокий, этот вечно улыбающийся и готовый улыбаться высокий старик с розовыми щёчками неизменно отвергал все ходатайства о помиловании или снисхождении».
Известен своими антисемитскими взглядами. Предполагаемый инициатор обвинения еврея Бейлиса в ритуальном убийстве. За время управления министерством Щегловитов стал жупелом для либеральной общественности и 6 июля 1915 года был уволен с должности министра в рамках «курса на общественность». Он не потерял при этом расположения императора и 1 января 1917 года был назначен председателем Государственного совета Российской империи.
Придерживался правых взглядов, покровительствовал «Союзу русского народа». Состоял членом монархической организации «Русское собрание», участвовал в работе Совещания монархистов 21—23 ноября 1915 года в Петрограде, на котором был избран председателем. На этом совещании был избран председателем Совета монархических съездов — всероссийского руководящего органа монархистов.
Во время Февральской революции арестован. Находился в заключении в Петропавловской крепости с 1 марта 1917 по 26 февраля 1918 года. Его деятельность была предметом расследования Чрезвычайной следственной комиссии, не окончившей свою работу к моменту Октябрьской революции.
Перевезён в Москву и как заложник публично казнён во внесудебном порядке после объявления красного террора, 5 сентября 1918 года вместе с рядом других государственных и церковных деятелей Российской империи. Вместе с ним на территории Петровского парка были расстреляны бывшие министры внутренних дел Николай Маклаков и Алексей Хвостов, протоиерей Православной российской церкви Иоанн Восторгов. Перед смертью держался мужественно и, по воспоминаниям окружающих, «не выказал никакого страха».
