Першы ўспамін Рагачова ў летапісах адносіцца да 1142 г., калі ён уваходзіў у Тураўскае княства.
У канцы XIII ст. Рагачоў знаходзіўся ва ўладанні літоўскага князя Даўмонта. У XV ст. Рагачоў належаў пінскім князям. Апошні з іх, Фёдар Іванавіч і ягоная жонка Алена завяшчалі места ВКЛ (Вялікаму Княству Літоўскаму). У 20-ыя гг. XVI ст. стаў каралеўскім уладаннем і лічыўся цэнтрам староства. У 1548 г. у месце існавала царква св. Кузьмы і Дзям’яна.
Па загаду маскоўскага цара Івана III у 1492 г. рускія ваяводы В. Лапін і А. Істома «заселі і повоевалі» Рагачоў. Асабліва моцна ён пацярпеў падчас вайны 1535 г. У часы рэлігійных войнаў і вайны Расіі з Рэччу Паспалітай, якія адбываліся ў сярэдзіне XVII ст., некалькі разоў пераходзіў з рук у рукі ваюючых бакоў.
Па некаторых ускосных звестках, Рагачоў карыстаўся ў XVII ст. майдэборскімі правамі. 3 1772 г. — у складзе Расіі, цэнтр павета магілёўскай правінцыі. Царскія ўлады планавалі зрабіць горад накшталт Быхава крэпасцю, але па невядомых прычынах адмовіліся ад гэтага. У 1880 г. насельніцтва складала каля 4500 чалавек. Дамоў было 560, сярод якіх — 4 каменныя. Меліся 2 цагельні, канатны, піваварны, мылаварны і 2 гарбарныя заводы. Горад пачаў хутка расці ў сувязі з пабудовай чыгункі Магілёў — Жлобін. У канцы XIX ст. колькасць жыхароў пераўзыходзіць 9000 чалавек.
У студзені 1918 г. узяты войскамі Доўбар-Мусніцкага, у лютым акупаваны нямецкімі войскамі. У складзе РСФСР апынуўся ў лютым 1919 г., з мая 1919 г. знаходзіцца у Гомельскай губерні.
Вернуты Беларусі у 1924 г., цэнтр раёна. У 1939 г. у горадзе пражывала больш за 15 000 чалавек. Сёння Рагачоў — цэнтр раёна Гомельскай вобласці.
