Agli inizi del Novecento esisteva a Milano un archivio di deposito in Via Nievo, destinato a raccogliere la documentazione più antica (soprattutto della Segreteria Generale, il primo dipartimento della Banca), che purtroppo è andato distrutto nei bombardamenti dell'agosto 1943.
Nel 1941, all'interno del nuovo Centro contabile di Parma, fu costruito un moderno archivio generale di deposito, un vero e proprio records centre, con una procedura che prescriveva obbligatoriamente la compilazione di liste di versamento con l'indicazione dei termini di conservazione. Per il Centro era stata prescelta una località defilata ma dai facili collegamenti viari, per custodire al sicuro scritture e valori in tempo di guerra; l'Archivio generale accoglieva i documenti inviati sia dai Servizi della Direzione centrale sia dalle filiali. Malauguratamente anche questo archivio di deposito andò distrutto nel 1973, a causa di un incendio; venne subito ricostruito e continuò a svolgere le sue originarie funzioni.
Dai primi anni Quaranta, all'interno della struttura organizzativa della Direzione centrale, ogni singolo Servizio si dotò di una struttura archivistica autonoma per la cura della documentazione corrente e semi-attiva. In generale, le pratiche erano conservate ordinatamente e con continuità da impiegati addetti agli archivi dipartimentali, esperti del lavoro specifico, ma non si seguivano regole di archiviazione comuni a tutta la Banca, se si eccettua la già ricordata procedura di trasferimento dei documenti all'archivio di deposito di Parma.
Nello scorrere dei decenni, tali trasferimenti non rimasero regolati da scadenze periodiche e iniziarono a dipendere dalla saturazione raggiunta dagli archivi di direzione situati in Piazza della Scala; ne derivò, talvolta, una certa mescolanza tra i materiali destinati al macero e quelli prescelti per la conservazione e una minore organicità nella definizione delle serie documentarie.
All'interno delle filiali, era il CSE (Capo del Servizio Esecutivo) a controllare l'organizzazione degli archivi locali e i versamenti a Parma della documentazione, generalmente routinaria e a breve scadenza.
Questa struttura dei processi di archiviazione è rimasta inalterata fino alla fusione della Comit nel Gruppo Intesa, tranne che per la creazione, alla fine degli anni Ottanta, di un nuovo archivio di deposito a Milano, riservato solo alla Direzione centrale e alla Sede di Milano. In questo nuovo records centre il materiale era stato collocato con una numerazione più stringente, ma con una minore cura delle liste di versamento, che talvolta appaiono prive di titolo e di date. Di conseguenza il deposito di Parma rimase adibito solo per le filiali e per l'Archivio Storico, e fu notevolmente ampliato a causa del notevole incremento della produzione cartacea nonché del numero stesso delle filiali.

Raffaele Mattioli aveva concepito il disegno di valorizzare le fonti storiche della Banca Commerciale sin dagli anni Trenta, ma solo alla fine degli anni Sessanta tre consulenti storici (Enrico Decleva, Giorgio Rumi e Brunello Vigezzi) vennero incaricati, sotto la supervisione di Leo Valiani, di procedere alla valutazione dei documenti più antichi. Ciò permise di salvare alcune casse di carte molto preziose, richiamate a Milano da Parma prima dell'incendio del 1973. Gli archivi di vertice a partire dagli anni Trenta, invece, si sono salvati integralmente in quanto erano stati gestiti con amorevole cura da Emilio Brusa, uomo di fiducia di Mattioli e segretario del Consiglio d'amministrazione, che aveva scelto di custodirli integralmente in Piazza della Scala.
Per rispondere alla pressante domanda esterna di accesso ai documenti, nel 1984 l'Archivio Storico fu ufficialmente costituito, e trasformato da mero giacimento di carte in una moderna struttura professionale interna alla Banca. Nel 1988 i documenti fondamentali fino al 1934 vennero aperti alla consultazione da parte del pubblico e dal 1990 è iniziata la pubblicazione della collana inventari, che annovera oggi sei volumi a stampa.

Nel 1989, per completare il recupero della documentazione anteriore al 1945, fu varata una prima ricognizione archivistica presso tutti i servizi della Direzione centrale, accompagnata da una circolare diramata alle filiali italiane ed estere.
Ben presto, in risposta ai profondi mutamenti organizzativi innescati dalla privatizzazione della Banca Commerciale, si è resa necessaria anche un'operazione straordinaria di selezione e salvataggio dei documenti posteriori al 1945, che ha investito prioritariamente l'archivio del Servizio Estero ma è proseguita poi con tutti i Servizi. Tale massiccio intervento si è prolungato fino al 2002 per il subentrare dei rischi di dispersione e scarto dei documenti connessi alla fusione della Banca e alla contestuale scomparsa dei gestori degli archivi amministrativi dipartimentali. Attualmente (2008) sono a carico dell'Archivio Storico oltre 3 chilometri di documentazione, conservati in parte presso gli archivi di deposito.