Schaffhausen bol v stredoveku mestským štátom, ktorý od roku 1045 razil vlastné mince. Istý čas bol pod nadvládou Habsburgovcov, ale v roku 1415 opäť získal nezávislosť. V roku 1457 sa spojil s Zürichom a v roku 1501 sa stal plnoprávnym členom Švajčiarskej konfederácie. Prvá železnica prišla do Schaffhausenu v roku 1857.
Schaffhausen sa nachádza v prste švajčiarskej krajiny, ktorý je z troch strán obklopený Nemeckom. Dňa 1. apríla 1944 Schaffhausen zažil nálet lietadiel armádneho letectva Spojených štátov, ktoré z nemeckého vzdušného priestoru prenikli do neutrálneho Švajčiarska. Hoci Spojené štáty okamžite ponúkli štyri milióny dolárov ako reparácie, k náletu došlo len mesiac po tom, čo švajčiarske letectvo zostrelilo americký bombardér.
V roku 1947 sa spojila s bývalou obcou Buchthalen. V roku 1964 sa zlúčila s bývalou obcou Herblingen. Od roku 2009 je Hemmental súčasťou mesta.