Боевое крещение получил в ходе Русско-турецкой войны (1787-1791). Ему довелось участвовать в осаде и штурме османской крепости Очаков. Во время Русско-шведской войны (1788-1790) Барклай-де-Толли проявил себя как способный командир. Польскую войну, в которой он показал себя мастером маневров в ходе боевых действий, закончил подполковником.

       Пройдя горнило трех войн, Барклай-де-Толли стал опытным военным, имея хороший послужной список. Он был уже Георгиевским кавалером, прекрасные характеристики свидетельствовали о его боевых заслугах. Перспективный офицер быстро продвигался по служебной лестнице. Протекций у него было мало, всего он добивался упорным трудом и добросовестной службой. В войне 1812 года он особенно отличился в Бородинском сражении.

       В январе 1810 года Барклай назначается военным министром и на этом посту руководит мероприятиями по укреплению армии и по подготовке ее к уже назревавшей новой войне с наполеоновской Францией. Весною 1812 года он становится главнокомандующим 1-й Западной армией, продолжая, но уже номинально, оставаться военным министром.

       В начале Отечественной войны на Барклая как на главнокомандующего самой многочисленной армией легла основная тяжесть ответственности за успех военных действий. Положение его, и без того трудное из-за подавляющего превосходства сил противника, осложнялось присутствием в армии Александра I с многочисленными придворными и военными «советниками». Достаточно сказать, что командиры корпусов обязаны были представлять свои донесения одновременно и главнокомандующему и царю, а последний нередко направлял «высочайшие повеления» непосредственно корпусным командирам, задним числом извещая об этом Барклая. Только после того как 1-я армия, отойдя от западной границы к Двине, оставила злополучный Дрисский лагерь и пошла на восток, Александр I уехал из армии и Барклай получил известную свободу действий.

       Умело руководя отходом своих войск, Барклай 20 июля привел их к Смоленску, куда через два дня подошла с юга и армия Багратиона, добровольно вступившего под командование Барклая. План Наполеона разбить русские армии порознь потерпел неудачу. После ожесточенных арьергардных боев под Смоленском и Валутиной горой русские армии продолжали отходить на восток. Но если до Смоленска необходимость отступления была очевидна, то оставление этого города и дальнейшее – уже по исконным русским землям – отступление Барклая, не желавшего рисковать армией в преждевременном генеральном сражении, вызвали в войсках открытый ропот. Приняв на себя всю тяжесть ответственности за избранную им стратегию войны, убежденный в ее правильности, Барклай оказался в трудном положении. Замкнутый и необщительный по характеру, к тому же иностранец по фамилии, он не пользовался в войсках популярностью, подобно той, которая была у Кутузова и Багратиона, и подчиненные не скрывали своего недовольства, выполняя его приказы об отступлении. Дальнейшее пребывание Барклая во главе армии становилось невозможным. 17 августа он передал командование прибывшему к войскам и радостно встреченному ими Кутузову. Пользуясь полным доверием нового главнокомандующего, Барклай остался во главе 1-й армии.

       Под Бородином Барклай де Толли руководил правым флангом и центром русских войск. Как бы бросая вызов смерти, он появлялся в самых опасных местах. Под ним было убито и ранено пять лошадей. Мало кто из его адъютантов и ординарцев остался невредимым. Полки, не раз до этого встречавшие его молчанием, под Бородином приветствовали Барклая дружным «ура». Существует рассказ, что раненый Багратион послал просить у него прощения, назвав его своим «благородным другом». За Бородинское сражение Барклай был награжден орденом Георгия 2-й степени.

       В Тарутинском лагере он подал рапорт об увольнении его по болезни с поста главнокомандующего 1-й армией, фактически уже прекратившей свое существование, и, получив разрешение Кутузова, 22 сентября уехал в тыл.

В 1815 году Барклай-де-Толли получил княжеский титул и звание генерал-фельдмаршала и после этого отошел от военных и государственных дел.