Pour nourrir convenablement ses troupes, Koutouzov les avait divisées en trois pointes. La plus septentrionale était commandée par le général Paskievitch. Au centre, les 2ème et 3ème corps d’infanterie ainsi que deux corps de cavalerie étaient dirigés par le général Miloradovitch. Un peu plus au sud, Koutouzov marchait lui-même avec le gros de l’armée.
Le soir du 2 novembre, Miloradovitch atteignit un village situé à quelques kilomètres à l’Est de Viazma. A quelques kilomètres au Nord, ils apercevaient la gtand-route de Smolensk, et les hommes de Davout s’installant pour la nuit autour du village de Fedorovskoïé. Plus loin, vers l’Ouest, se trouvaient les hommes du 4ème corps du prince Eugène et, plus près encore de Viazma, les Polonais du prince Poniatowski. Les trois chefs russes décidèrent d’attaquer le lendemain matin, espérant que les divisions d’infanterie des 2ème et 4ème corps russes seraient arrivés pour achever l’arrière-garde de Davout.
Le 3 novembre, à 8 heures du matin, deux régiments de dragons russes surgirent du brouillard, chargeant et prenant totalement par surprise les chariots à bagages du 4ème corps du prince Eugène. Ils furent suivis par les fantassins de la 4ème division d’Eugen von Wurtemberg, qui déployèrent leurs batteries d’artillerie à cheval et se mirent en position de part et d’autre de la grand-route. Davout et ses cinq divisions se retrouvèrent alors coupés du reste de la Grande Armée.
Un duel d’artillerie confus s’ensuivit, les canonniers français mettant en batterie leurs pièces, tandis que les fantassins se formaient en carrés pour résister à des attaques venues de toutes les directions. Tirant des salves régulières, les soldats d’arrière-garde repoussèrent la 26ème division du général Paskiévitch qui s’approchait par la grand-route de Moscou en compagnie des cosaques de Platow.
Entre-temps, comprenant que les hommes de Davout étaient isolés, Eugène de Beauharnais ordonna à son 4ème corps de faire demi-tour et de se déployer en bataille, suivi les Polonais de Poniatowski. Mettant en position leurs propres batteries, ils pilonnèrent la 4ème division d’infanterie russe, forçant Miloradovitch à se replier vers le Sud.
Les divisions Davout réussirent enfin à reprendre leur marche, face au feu de deux divisions d’infanterie russes (17ème et 4ème). Mais Cesare de Laugier, officier de la garde du prince Eugène, raconte ce calvaire : « Mais si nous résistons avec courage, le corps de Davout, démoralisé par des fatigues et des privations de tous genres endurées depuis son départ de Malojaroslavetz, ne conserve plus cette belle attitude qu’il avait eue pendant toute la campagne. Les ennemis s’en aperçoivent, aussi deviennent-ils plus audacieux et font-ils redoubler le feu de leur artillerie ».
Le général Lejeune, chef d’état-major de Davout, raconte la suite : « Vers les deux heures, une bataille très sanglante, qui durait depuis le matin, était engagée sur toute la ligne. Le 1er corps et ensuite celui du prince Eugène, pressés par des forces considérables, faillirent être séparés l’un de l’autre et se trouvèrent deux fois l’un et l’autre dans la position la plus critique. Le maréchal Ney, heureusement, put envoyer un régiment sur les derrières de l’armée russe, où il jeta le désordre ».
Le maréchal Ney installe en effet deux divisions aux portes de Viazma de sorte qu’une défense en demi-cercle empêche ainsi les cosaques de Platow d’entrer dans la ville. « Derrière cet écran, les hommes de Davout entamèrent une retraite de plus en plus désordonnée, due à l’irrésistible torrent des traînards et des cochers des fourgons à bagages qui tentaient de forcer le passage de l’unique pont sur la rivière de Viazma » estime Curtis Cate (Le duel des deux empereurs, p.370).
Cesare de Laugier reprend son récit : « La gauche de Davout, dont les divisions ne peuvent guère mettre en ligne que 11.000 à 12.000 hommes, rejoint la droite de l’armée d’Italie (Eugène). La droite de Davout s’avance jusqu’à Ney (environ 6.000 hommes), lequel emploie une brigade pour soutenir le 1er corps. [...] Le froid augmente ; l’épuisement des soldats, à jeun, est tel que beaucoup tombent évanouis ; d’autres, pouvant à peine porter leurs armes, veulent se battre pour se réchauffer ou espèrent trouver une mort qui les délivrera de cette longue aginie. On voit, parmi ceux qui les commandent, beaucoup d’officiers qui portent un bras en écharpe ou qui ont encore la tête enveloppée de linges. Les uns sont blessés depuis La Moskowa, d’autres depuis Malojaroslavets. Tous essaient de relever le courage des plus démoralisés de leurs hommes ».
Pourtant Gourgaud donne une image plus glorieuse pour nos armées de ce combat : « Lorsque le prince Eugène, se dirigeant sur Viazma, suivi du corps de Davout, vit que l’ennemi, qui venait de sa gauche, voulait lui couper la grande route près de cette ville, il en fit prévenir le maréchal, et concerta avec lui son mouvement. Le corps du prince se plaça en colonne sur la droite de la grande route (regardant Viazma) ; une de ses divisions resta à gauche de la route faisant face aux ennemis qui arrivaient de ce côté. Le corps de Davout continua de marcher sur Viazma. La division Compans faisant tête de colonne, après avoir culbuté les troupes russes qui lui barraient le chemin, passa le ravin de Pruditcha ; et aussitôt, tournant à gauche, elle se forma en bataille en arrière de ce ravin, couvrant la ville. Lorsque Compans fut en ligne derrière le ravin, ainsi que les autres divisions du 1er corps, les divisions du vice-roi passèrent à leur tour le ravin pour venir se former à la gauche du 1er corps, couvrant également Viazma. Etablies dans cette position, nos troupes, que l’ennemi espérait culbuter sur la ville, repoussèrent toutes ses attaques, et lui tuèrent beaucoup de monde. [… ] Le corps du vice-roi s’écoula, à la nuit, par Viazma, couvert à son tour par celui du maréchal Davout. La division Compans ne traversa pas la ville, mais passa la Viazma en dehors, sur le pont qui y avait été établi ».
D’après Fezensac, qui sert alors sous Ney, le combat acharné dura cinq heures (Souvenirs militaires, p.261). « A cinq heures du soir, les Russes, fatigués de rencontrer tant de résistance, abandonnent la partie, et les corps reprennent leur mouvement de retraite » conclut Cesare de Laugier.
Sir Robert Wilson, attaché à l’état-major de Koutouzov, fut témoin de la bataille et estima les pertes françaises autour de 6000 hommes. Pour part, le général Lejeune reste plus vague : « On perdit beaucoup de monde de part et d’autre ».
Mais Davout, le prince Eugène et Poniatowski, tout en déplorant leurs pertes, pensaient probablement qu’ils avaient remporté une victoire en ayant évité de justesse un désastre (Curtis Cate), ce qui semble accrédité par les chiffres de Gourgaud qui considère que « les seuls corps d’Eugène et de Davout culbutèrent les vingt-cinq mille Russes qui voulaient nous fermer la route… » .
Il n’empêche que c’est à la suite de cette affaire que Napoléon, jugeant Davout trop lent, décida de donner à Ney le commandement de l’arrière-garde.