L'attuale chiesa è stata costruita nel 1850 in rifacimento di un edificio precedente risalente al 1632, ed è annessa al convento delle Clarisse. La prima costruzione sacra risale al XIII secolo e si ha notizia per la prima volta nel 1235; era conosciuta col nome di Santa Maria. Quando nel 1258 papa Alessandro IV vi fece traslare il corpo di santa Rosa, la chiesa ebbe la nuova denominazione. Questa fu distrutta verso la metà del XIV secolo, ricostruita ed abbellita da affreschi di Benozzo Gozzoli (metà del XV secolo). I lavori di rifacimento dell'edificio nel 1632 portarono alla completa distruzione di questi affreschi, di cui oggi restano solo delle copie fatte dal pittore secentesco Francesco Sabatini con la tecnica dell'acquarello e conservate nel Museo civico della città. A metà dell'Ottocento la chiesa fu ricostruita in stile neoclassico; nel 1913 fu aggiunta la cupola, su progetto dell'architetto Arnaldo Foschini, rivestita di maioliche, in seguito occultate da un rivestimento in piombo.