После этого японцы начали атаку главной позиции, открыв огонь свыше двухсот орудий, который не прекращался весь день; однако огонь японцев против ляоянских фортов был мало эффективным. Фронтальная атака армии Нодзу успеха не имела: окопы укрывали русские войска от огня артиллерии. 3-я дивизия выдвинулась к Саньличжуан, имея за своим левым флангом 6-ю дивизию. Атака 4-й дивизии в этот день также встретила упорное сопротивление русских. Несмотря на неуспех атак японцев на Ляоянские позиции и возможность дальнейших попыток наступления крупными силами против Куроки, наступательная решимость Куропаткина к вечеру 2 сентября начала заметно угасать. Зарубаев жаловался на слабый резерв и недостаток снарядов, что не позволит ему долго держаться на своих позициях. Бильдерлинг доносил о неуспешной атаке Нежинской сопки. Отступивший в Лилиенгоу Штакельберг доносил, что корпус его утратил способность к активным действиям. Одновременно с этим поступали ложные сообщения от “двусторонней” агентуры о начавшемся наступлении на Мукден каких-то крупных японских сил со стороны Бенсиху, где в действительности действовала только резервная бригада Умесавы.
Последнее сообщение произвело особенно сильное впечатление на Куропаткина и повлияло на принятие им решения об отступлении “к Мукдену и далее”, а между тем общая обстановка сложилась для японцев крайне неблагоприятно. Куроки, который к вечеру уже был осведомлен о силах правобережной группы Куропаткина, опасался за исход дальнейших действий своих малочисленных усталых войск, испытывавших недостаток в продовольствии и снарядах. Переправа гвардейской дивизии, сдерживаемой 3-й пехотной дивизией, не удавалась. Неудачные атаки 4-й и 2-й армий закончились большими потерями.
В связи с общей обстановкой у японского командования созревало решение попытаться захватить Ляоян и в случае неудачи отступить за реку Шахэ-южную. Тяжелое положение правобережной группы японцев, имевшей перед собой крупные силы русских, побудило Куроки наметить отход за Тайцзыхэ в 6 часов утра, однако вопрос разрешился проще: Куропаткин еще в 4 часа утра разослал корпусам приказ об отступлении 3 сентября.
Приказ Куропаткина на отступление отражал стремление выиграть время для очищения Ляояна от скопившихся в нем многочисленных обозов и обеспечить беспрепятственную переправу 2-го и 4-го Сибирских корпусов через Тайцзыхэ с последующим уничтожением всех мостов. Группа Зарубаева должна была удерживать Ляоянские позиции до конца дня 3 сентября. Для обеспечения отступления Зарубаеву приказано было перебросить к станции Янтай отряд Кондратовича, который в составе 6 батальонов, 2 сотен и 8 орудий стоял к северо-западу от Ляояна в деревне Сяоинпань, для воспрепятствования переправе здесь японцев через Тайцзыхэ.
17-й корпус отводился на промежуточную позицию Инченцза — Чжансутунь, а 3-й Сибирский корпус должен был отходить, прикрывая направление на станции Янтай. Общее отступление прикрывалось 1-м Сибирским корпусом, который должен был оставаться в районе Лилиенгоу, составляя арьергард Манчжурской армии. Отступление правобережной группы Манчжурской армии облегчалось пассивностью Куроки, который ограничивался только слабым артиллерийским обстрелом русского расположения.
Большую активность проявили 3 сентября армии Нодзу и Оку. При содействии артиллерии, начавшей с утра громить ляоянские форты с близких дистанций, японцы перешли в атаку, прикрываясь гаоляновыми посевами. Передовые окопы русских позиций были вскоре захвачены, однако под огнем русской артиллерии движение японцев задержалось до 18 часов, когда обе японские армии возобновили решительную атаку Ляоянских позиций. К этому времени войска Зарубаева частично были переброшены на правый берег реки, что облегчило атаку японцев. К полуночи части 10-й японской дивизии уже занимали Юйхуанмяо, имея за своим левым флангом на этой же линии части 5-й дивизии.
В течение ночи войска Зарубаева переправились беспрепятственно на правый берег Тайцзыхэ, уничтожив мосты, однако железная дорога и железнодорожный мост через Тайцзыхэ остались невредимыми. Между тем бригада Умесавы, которая еще 1 сентября заняла Санцяцзы, отбросив отряд Любавина (8 батальонов, 8 сотен, 4 орудия), двинулась к Янтайским копям. Любавин отошел, не попытавшись даже выяснить силы своего противника. Возможность выхода в тыл многочисленной Манчжурской армии четырех батальонов Умесавы крайне обеспокоила Куропаткина и вызвала с его стороны ряд мероприятий, в результате которых на фронте станции Янтай — Тумынцзы было сосредоточено 2 батальона, 19 сотен и 8 орудий, причем эта мощная группа не только не получила задачи по уничтожению резервной японской бригады, но оборона ее на пятикилометровом фронте признана была малоустойчивой по численности группы, и Куропаткиным было сделано распоряжение о значительном ее усилении.