Risale al 1123 la prima notizia di una chiesetta intitolata a San Nicolò, nella campagna non lontana dalle mura della cittadella fortificata; poi, nel 1446, con l'acquisto di un sepolcreto da parte dei Pio inizia per questo luogo la vicenda di tempio dei principi di Carpi. Nel 1451 Galeazzo e Alberto II Pio lo affidarono ai Minori Osservanti, per i quali eressero l'annesso monastero. Alberto III Pio coinvolse anche questa chiesa nella ridefinizione urbanistica di Carpi, fra Quattro e Cinquecento.

Nel 1493 iniziano i lavori con le fondamenta dell'abside, e nel 1511 è innalzata la cupola, avvolta dal superbo tiburio di linee bramantesche. Il cantiere riprende nel 1517, realizzando un progetto ritenuto di Baldassarre Peruzzi, allievo di Raffaello attivo al cantiere di San Pietro in Vaticano, progetto inviato da Roma a Carpi dallo stesso Alberto III, allora residente presso la corte papale; e nel 1521 la nuova chiesa, a tre navate, potrà accogliere il Capitolo Generale dei Minori Osservanti.

Rimangono nella chiesa opere di artisti della cerchia attorno ad Alberto: il coro intagliato nel 1518 da Ercole Meloni; i pennacchi della cupola con gli Evangelisti e altri frammenti di affreschi spettanti al forlivese Giovanni Del Sega nel 1516, riemersi dalla decorazione ottocentesca, e le tavole dipinte da Bernardino Loschi: il San Rocco, la Madonna col Bambino e Santi del 1520 e l'Annunciazione del 1528, dall'aristocratica cifra prossima a quella di Francesco Francia.

In altre sedi, invece, vari prestigiosi saggi pittorici in origine nel tempio: la grande Natività del Loschi ora nel Museo Civico di Carpi,  il Sant'Antonio con le Sante Orsola e Caterina di Lorenzo Costa, commissionato da Alberto nel 1518, nelle Collezioni della Cassa di Risparmio di Carpi; nella Galleria Estense, invece, la Sacra conversazione di Vincenzo Catena e il Compianto di Cristo di Cima da Conegliano, che avrebbe dovuto ornare la tomba di Alberto, sepolto invece a Parigi, ove morì in esilio nel 1531.

San Nicolò accoglie tuttora uno straordinario complesso di dipinti, come l'Immacolata di Francesco Gessi, allievo di Guido Reni, e Sant'Antonio da Padova di Gian Gioseffo Dal Sole, oltre a opere del Settecento modenese, fra cui quelle di Antonio Consetti e Francesco Vellani. Eccezionale è l'arredo delle cornici monumentali e dei paliotti d'altare realizzato in scagliola, a partire da un capolavoro del suo iniziatore Guido Fassi, l'ancona dell'Immacolata del 1633.

Attualmente è inagibile a causa del sisma del maggio 2012