Cette thèse porte sur la modélisation des vibrations de l'outil en coupe orthogonale, l'étude de stabilité du processus et la validation expérimentale. Dans ce travail, un modèle à un seul, puis à deux degrés de liberté du processus vibratoire a été développé. Pour des conditions de coupe données, il est possible d'estimer les efforts de coupe instantanés, d'obtenir la réponse dynamique de l'outil et donc l'état de surface final, et de prévoir la limite de stabilité du processus caractérisée par des lobes. Différents effets couplés ont été pris en compte tels que : le frottement à l'interface outil-copeau fonction de la vitesse du copeau, les variations de la quantité de matière usinée dues aux ondulations de la surface à usiner associées aux oscillations de l'outil, les variations instantanées de l'angle de coupe et de dépouille, l'effet de la pente de la surface à usiner sur l'angle de cisaillement et le contact en dépouille de l'outil avec la surface nouvellement usinée.