3-й Донской казачий полк являлся прямым наследником Донского казачьего Ханженкова полка, который был сформирован в 1804 году и в 1805 году принимал участие в походе в Австрию против французов. По окончании Наполеоновских войн этот полк был распущен на льготу.
Впервые Донской казачий полк под № 3 был сформирован 26 мая 1835 года на основании нового положения о Донском Казачьем Войске. Периодически этот полк созывался в строй и распускался на льготу, также менялся его текущий номер (в зависимости от свободного номера полка при созыве). Кроме номера в названии полка также положено было означать и имя его текущего командира.
Полк этот долгое время находился на Кавказе и принимал участие в походах против горцев. В кампании 1853-1856 годов полк находился в отряде войск, назначенных для обороны побережья Балтийского моря от возможной высадки англо-французского десанта. В 1863—1864 годах Донской казачий № 3-го полк находился в Польше и принимал участие в подавлении восстания поляков.