Thám mã liên tục báo mọi động tĩnh của quân Nguyên về cho Thăng Long. Nhân Tông hay tin Thoát Hoan dẫn quân thủy bộ hùng hổ tiến vào nước ta, trong lòng bất an bèn đến tìm Hưng Đạo vương hỏi về thế giặc lần này.

Hưng Đạo vương cân nhắc rồi ung dung trả lời:

- Tâu bệ hạ, lần trước đất nước ta thái bình lâu ngày, dân không quen chiến đấu nên mới có chuyện lắm kẻ ra hàng. Nhưng nay đã khác, ta đã có kinh nghiệm đánh giặc, theo như thần thấy năm nay đánh giặc nhàn, ta phá được chúng là điều tất yếu.

Nhân Tông bàn:

- Thế giặc mạnh, ta có nên tuyển thêm binh lính hay không?

Hưng Đạo đáp:

- Tâu bệ hạ, theo thần là không cần thiết. Quân quý ở tinh nhuệ, không quý ở số đông.

Tháng 10 năm Đinh Hợi (1287), Hưng Đạo vương phân công các tướng dẫn binh đi trấn giữ những nơi hiểm yếu. Cũng giống như lần trước, Trần Nhật Duật được lệnh trấn giữ ở ngã Bạch Hạc, sông Thao. Trần Khánh Dư trấn giữ Vân Đồn. Trần Hưng Đạo và các con chốt giữ ở Bắc Giang, Lạng Sơn còn Trần Quang Khải phòng thủ phía nam và bảo vệ hai vua ở Thăng Long.

Ở chiến trường Bắc Giang, Lạng Sơn, Hưng Đạo vương bày binh ở nhiều nơi, chủ động đánh kìm chân giặc sau đó rút lui để bảo toàn quân số, đồng thời làm chậm bước tiến của giặc chứ không quyết chiến sống còn với chúng. Cánh quân của Trình Bằng Phi công phá ải Chi Lăng, đi qua Thích Trúc, địa thế nơi đây rất hiểm trở, có hai ngọn núi giao nhau, sườn núi hẹp, lại mọc đầy tre có gai nhọn rất khó vượt qua. Quân Đại Việt tận dụng địa thế nguy hiểm đó mà bày sẵn trận địa mai phục, giặc bị trúng tên, đá lăn chết rất nhiều. Nhưng Trình Bằng Phi cậy thế quân đông mà xua quân tiến tới. Phải đánh đến 17 trận quân Nguyên mới vượt qua được ải này.

Cùng lúc đó A Bát Xích dẫn quân tiên phong giặc tấn công ải Khả Lợi tiến xuống phủ đệ Vạn Kiếp của Hưng Đạo vương. Quân Đại Việt đóng tại đây đánh rồi lui, đại quân Thoát Hoan dễ dàng vượt qua ải này. Hai cánh quân của Thoát Hoan và Trình Bằng Phi thuận lợi hội quân tại Vạn Kiếp chỉ trong vòng bốn ngày.

Ở ngã Bạch Hạc, cánh quân Nguyên do Ái Lỗ chỉ huy bị quân của Chiêu Văn vương Trần Nhật Duật chốt chặn ở cửa sông Việt Trì chặn đánh quyết liệt. Hai bên giao tranh gần 20 lần, vì quân Nguyên lúc này còn mạnh nên quân Đại Việt không thể ngăn được phải rút lui. Hai tướng nhà Trần là Lê Thạch và Hà Anh không may sa vào tay giặc.

Khác với cánh quân của Hưng Đạo vương và Chiêu Văn vương trên bộ chỉ có nhiệm vụ là đánh cầm chừng với giặc, cánh quân thủy của Nhân Huệ vương Trần Khánh Dư có trọng trách phải tiêu diệt bằng được thủy quân của giặc do Ô Mã Nhi cầm đầu, không để cho hai quân thủy - bộ của giặc gặp nhau. Do trận thủy chiến này rất quan trọng nên vua Trần Nhân Tông giao toàn bộ lực lượng thủy quân của Đại Việt cho Trần Khánh Dư chỉ huy.

Ô Mã Nhi và Phàn Tiếp tiến vào cửa Vạn Ninh thì bị quân của Nhân Đức hầu Trần Da tập kích ở phía sau, Ô Mã Nhi đi đầu phải quay lại cứu hậu quân. Đến vùng biển Vân Đồn, Phó tướng Trần Khánh Dư chỉ huy thủy quân Đại Việt chặn đánh quân Nguyên ở nhiều nơi nhưng không cản được bước tiến của địch, lại còn bị tổn thất nặng nề phải lui quân. Ô Mã Nhi đắc thắng vượt qua cửa An Bang, theo đường sông Bạch Đằng tiến về Vạn Kiếp hợp binh với Thoát Hoan, bỏ mặc đoàn thuyền lương nặng nề của Trương Văn Hổ đang chậm chạp phía sau.

Biết tin Trần Khánh Dư không hoàn thành trọng trách, thượng hoàng Trần Thánh Tông giận dữ sai người đi bắt Trần Khánh Dư về trị tội.

Đang lo lắng, Trần Khánh Dư suy nghĩ một hồi rồi chợt nhận ra điểm bất thường của giặc, bèn nói với trung sứ:

- Phải rồi! Lúc giao chiến với Ô Mã Nhi ta không nhìn thấy bọn chúng chở theo lương thực trên thuyền. Vậy có nghĩa thuyền lương của chúng đang đi phía sau. Xin trung sứ hãy cho ta vài ba ngày để lập công chuộc tội rồi về chịu tội sau cũng chưa muộn.

Được trung sứ chấp thuận, Trần Khánh Dư chỉnh đốn lại quân ngũ và phục binh chờ đợi. Quả nhiên vào đầu tháng 12 (âm lịch), đoàn thuyền lương của Trương Văn Hổ mới ì ạch tiến vào vùng biển Vân Đồn. Trần Khánh Dư dẫn quân tập kích thuyền lương của giặc, mọi người ai nấy đều rất quyết tâm, cố sức đánh vì họ hiểu rằng chỉ có chiến thắng mới giúp chủ tướng của mình khỏi tội với triều đình. Những chiếc thuyền chở đầy lương thực của giặc di chuyển nặng nề, lại không có quân hộ tống nên không thể chống đỡ được sức tấn công như vũ bão của quân Đại Việt, chúng nhanh chóng bị rối loạn đội hình sau đó vỡ trận thua chạy tan tác. Bảy mươi chiếc thuyền lương của chúng, số bị chìm, số bị bắt, số còn lại ném gạo xuống sông để dễ bề thoát thân, có chiếc trôi dạt đến tận Chiêm Thành. Trương Văn Hổ cũng "bỏ của chạy lấy người", trốn một mạch về Hải Nam.

Quân Đại Việt thu được một vài chiếc thuyền và rất nhiều lương thực của giặc. Tin thắng trận của Trần Khánh Dư được báo về Thăng Long ngay lập tức. Nhận thấy đây là một chiến thắng quan trọng mang yếu tố thay đổi cục diện cuộc chiến, thượng hoàng Thánh Tông và vua Nhân Tông tha tội cho Trần Khánh Dư.

Thượng hoàng lại nói:

- Trước nay quân Nguyên chỉ cậy có nhiều lương thảo, khí giới. Một khi lương thảo, khí giới không còn, quân Nguyên tất bại. Nay ta đã phá được thuyền lương của chúng thì hãy báo tin này cho chúng biết để chúng không còn hung hăng.

Trong khi đó Thoát Hoan và Ô Mã Nhi đang đóng quân ở Vạn Kiếp vẫn chưa hay biết thuyền lương đã bị mất. Chỉ nghĩ là thuyền lương đến muộn nên bọn chúng đóng quân ở Vạn Kiếp gần một tháng đợi lương thực và xây dựng nơi đây trở thành một căn cứ quân sự vững chắc nhằm chiến đấu lâu dài với quân Đại Việt. Để đề phòng quân Đại Việt lại dùng kế "vườn không nhà trống", chúng còn dựng sẵn trại gỗ ở núi Phả Lại và Chí Linh để làm nơi chứa lương thực, còn về cái ăn trước mắt thì Thoát Hoan sai bọn lính đi cướp thóc gạo của dân để dùng.

Thời gian này đám con cháu của Trần Ích Tắc ở Tư Minh được 5000 quân Nguyên hộ tống tiến vào Đại Việt. Tưởng rằng Đại Việt đã bị Thoát Hoan chiếm nên những kẻ hàng giặc nghênh ngang, đắc ý như đi vào chốn không người. Đến cửa Nội Bàng (Lạng Sơn) bọn chúng bị quân giữ ải vây đánh quyết liệt phải bỏ chạy.

Ở căn cứ Vạn Kiếp, Thoát Hoan chia quân thủy bộ tiến về Thăng Long.