С 19 июля по 3 сентября 1914 года командовал 3-й армией. В начале войны несмотря на поступавшие сведения об австрийском наступлении в направлении Люблин — Холм упорно продолжал наступление на Львов. За бои с австрийцами и в первую очередь за взятие Львова вдвойне награждён орденом Святого Георгия 4-й и 3-й степени (ВП 23 августа 1914 года). За Галицийскую битву награждён орденом Святого Георгия 2-й степени (ВП 22 октября 1914 года), став, вместе с Н. И. Ивановым, Великим князем Николаем Николаевичем Младшим и Н. Н. Юденичем, одним из четырёх высших военачальников награждённых этой очень высокой наградой[3]. Обрёл славу «завоевателя Галиции» и громкую славу в общественных, в том числе оппозиционных кругах.
С 3 сентября 1914 года — Главнокомандующий армиями Северо-Западного Фронта. Под его командованием войска фронта сражались в Варшавско-Ивангородской, Лодзинской (во время которой, несмотря на достигнутый успех 1-й и 10-й армий Рузский отдал приказ об отступлении, из-за чего попавшая в окружение группа германских войск генерала Р. Шеффер-Бояделя[нем.] смогла выйти из окружения) и Августовской операциях (в последней именно его действия стали причиной катастрофы 10-й армии). Как военачальник имел привычку обвинять подчиненных в своих неудачах, в частности, добился отстранения командующих армиями — П. К. Ренненкампфа и С. М. Шейдемана на Седлецком совещании Ставки, тем самым оправдывая свой приказ о свертывании наступления войск его фронта. Однако деятельностью данных генералов небезосновательно выражало недовольство военное командование Ставки и военный министр. 13 марта 1915 года Рузский заболел и покинул фронт, сдав командование генералу М. В. Алексееву.
17 марта 1915 года назначен членом Государственного, а 20 мая 1915 года также Военного советов. Вернулся на высший командный пост благодаря личному решению императора Николая II, несмотря на ранее выявившиеся его недостатки как военачальника.
С 30 июня — командующий 6-й армией. С 18 августа 1915 года — Главнокомандующий армиями Северного фронта. В декабре 1915 года Рузский заболел и 6 декабря сдал командование фронтом.
Командование Северного фронта. Сидят, слева направо: начальник штаба армий Северного фронта генерал от инфантерии Ю. Н. Данилов, командующий 1-й армией генерал от кавалерии А. И. Литвинов, главнокомандующий армиями Северного фронта генерал-адъютант Н. В. Рузский, командующий 12-й армией генерал от инфантерии Р. Д. Радко-Дмитриев, командующий 5-й армией генерал от кавалерии А. М. Драгомиров. Стоят, слева направо: генерал-квартирмейстер штаба армий Северного фронта генерал-майор В. Г. Болдырев, начальник штаба 1-й армии генерал-лейтенант И. З. Одишелидзе, начальник штаба 12-й армии генерал-лейтенант В. В. Беляев, начальник штаба 5-й армии генерал-лейтенант Е. К. Миллер Конец 1916 — начало 1917 гг.
Позже вернулся на должность Главнокомандующего армиями Северного фронта 1 августа 1916 года. На посту главкома войсками фронта отличался осторожностью и избегал решительных действий и крупных войсковых операций.
Руководил неудачным наступлением Северного фронта в июле 1917 г.