Родился 24 декабря 1761 г. в имении Памушисе Лифляндской губернии. Внук бургомистра Риги, сын офицера российской армии. Происходил из шотландского рода, в XVII в. переселившегося в Прибалтику.
Поступил на военную службу в 1776 г. При штурме Очакова 17 декабря 1788 г. Барклай-де-Толли проявил храбрость и хладнокровие, за что получил чин секунд-майора. После этого участвовал в русско-шведской войне 1788—1790 гг.; командовал батальоном Петербургского гренадерского полка во время войны с Польшей (1792—1794 гг.). За взятие Вильно (ныне Вильнюс) был награждён орденом Святого Георгия 2-й степени и очередным повышением в звании. В январе 1807 г. в сражении при Прёйсиш-Эйлау был тяжело ранен в правую руку, затем лечился в Мемеле, где его посетил Александр I. С этого времени Барклай пользовался личной благосклонностью императора. В 1809 г. Барклай стал генералом от инфантерии, главнокомандующим русскими войсками в Финляндии и генерал-губернатором этой провинции, а в 1810 г. был назначен императором на пост военного министра. С 12 марта 1812 г. — он командующий 1-й Западной армией. Отступление от границ в начале Отечественной войны 1812г. Барклай объяснял так: «Участь империи зависела от сохранения армии, мне вверенной… Я утомлял и удерживал неприятеля». После сдачи Смоленска против генерала выдвигалось немало упрёков, вплоть до обвинения в трусости и измене. Войска перестали встречать командующего криками «ура!». 17 августа в армию прибыл новый главнокомандующий М. И. Кутузов, призванный заменить непопулярного генерала и остановить неприятеля. В день Бородинского сражения (26 августа 1812 г.) Барклай, по собственному признанию, «искал смерти — и не нашёл». Под ним было убито пять лошадей. Героизм Михаила Богдановича отметили орденом Святого Георгия 2-й степени. «Провидение пощадило жизнь, которая меня тяготит», — писал он Александру I вскоре после битвы. Болезнь и ощущение своей ненужности вынудили оставить армию и пост министра. В Калуге в карету полководца летели камни, раздавались крики: «Вот едет изменник!». Однако Александр I сохранил доверие к военачальнику и ожидал удобного случая вернуть его в действующую армию. 16 февраля 1813 г. Барклай сменил адмирала П. В. Чичагова на посту командующего немногочисленной 3-й армией и начал с успешной осады крепости Трон, взятой в тот же день, и разгрома французской дивизии при Кёнигсварте. В Бауценском сражении (8—9 мая 1813 г.) он помешал французскому маршалу М. Нею обойти правое крыло союзников. В мае 1813 г. Александр I удовлетворил ходатайство главнокомандующего российско-прусской армией графа П. X. Витгенштейна о назначении на занимаемую им должность Барклая. За участие в Битве народов под Лейпцигом (4—6 октября 1813 г.) Михаила Богдановича возвели в графское достоинство. К концу войны награды буквально осыпали его: прусская лента Чёрного орла, шпага с алмазами и лаврами, чин генерал-фельдмаршала (за взятие Парижа), пост главнокомандующего армией. Однако к началу 1818 г. здоровье полководца настолько ухудшилось, что он испросил соизволения императора отправиться на лечение в Германию. Скончался 14 мая 1818 г. в пути (мыза Штилитцен под Инстербургом).