Intorno all'anno Mille, quando comparve per la prima volta nei documenti il toponimo Carmagnola, la città rientrava ancora sotto la giurisdizione degli Arduinici che governavano la marca torinese. Dalla frammentazione di questa in organismi territoriali più piccoli, conseguente alla morte dell'ultima arduinica Adelaide (1091), i poteri giurisdizionali sul territorio carmagnolese vennero ripartiti tra i marchesi di Romagnano e i marchesi del Vasto.

Furono questi ultimi, che sarebbero divenuti in seguito marchesi di Saluzzo, ad imporsi progressivamente nel corso del XII secolo, fino a quando i Romagnano non si ritirarono nella vicina Carignano. Dal 1200 fino alla metà del Cinquecento Carmagnola restò assoggettata al dominio dei marchesi di Saluzzo, che sin dal primo momento apportarono modifiche sostanziali alla struttura cittadina, edificandovi il castello, racchiuso all'origine entro una cittadella fortificata, e cingendo lo stesso abitato urbano con mura e fossati. Durante questo periodo Carmagnola, la cui importanza strategica in senso militare venne progressivamente accrescendosi, poté beneficiare anche del grande impulso che il marchesato diede ai commerci e la stessa vita cittadina ne risentì positivamente in ambito culturale e artistico.

Nella prima metà del Cinquecento il marchesato di Saluzzo, preso in mezzo alle guerre che videro opposti gli eserciti di Carlo V imperatore e re di Spagna e di Francesco I re di Francia, insanguinato da lotte fratricide interne e sempre più sottomesso ai francesi, conobbe una rapida decadenza. Carmagnola restò alla mercé di invasori e saccheggi: dapprima i lanzichenecchi di Carlo V, al tempo della prima terribile pestilenza del 1522, poi truppe francesi, spagnole e imperiali si alternarono nell'occupazione della città.

La battaglia di Ceresole (1544), vinta dai francesi sugli spagnoli, segnò la fine dell'agonizzante marchesato di Saluzzo. Durante il quarantennio di occupazione francese che ne seguì (1548-1588), fu portata a termine la trasformazione della città in piazzaforte fortificata, con l'introduzione di una seconda cinta muraria munita di bastioni. Nel 1588 Carmagnola passò nelle mani dei Savoia, quando Carlo Emanuele I l'assediò e la tolse ai francesi, che se ne rimpadronirono però nel corso del Seicento, durante la guerra civile tra Madamisti e Principisti. Fu in questo periodo (1637-1642), quando ancora non si erano sopiti gli effetti nefasti della peste del 1630, che vennero atterrati i tre grossi borghi originari posti a ridosso delle mura cittadine poiché in posizione tale da pregiudicare l'efficacia delle strutture difensive; immediatamente furono riedificati ad un miglio circa di distanza dal centro fortificato, dove si trovano ora.

Nel 1690 la città fu occupata dal generale Catinat e il suo territorio devastato, ma nel 1691 Vittorio Amedeo II la riportò definitivamente entro l'orbita sabauda. Mentre le sue fortificazioni venivano demolite e con esse progressivamente scemava il ruolo strategico-militare, Carmagnola poté dedicarsi a sviluppare la sua vocazione agricola e commerciale, che le valse una notevole rinomanza in campo economico, legata principalmente alla coltura e alla commercializzazione della canapa e dei manufatti di tela e cordami, esportati in grande quantità verso la Liguria e il sud della Francia.

Questa caratteristica di grosso borgo agricolo e commerciale si è mantenuta anche negli ultimi secoli, fino a che il processo di industrializzazione del secondo dopoguerra ha generato una profonda trasformazione in senso strutturale e sociale, in virtù della massiccia immigrazione e della rapida espansione urbanistica.