La sua prima edificazione si ebbe nel 1652 per volere di Emanuele Brignole che, assieme a Oberto Della Torre, fu scelto dalla Repubblica di Genova per seguire la costruzione di un nuovo ricovero o rifugio dove ospitare i poveri della città. A quattro anni dall'apertura del cantiere, nel 1656, i lavori furono sospesi a causa di una violenta epidemia di peste che decimò la popolazione genovese e i borghi vicini. A causa della strage compiuta dalla malattia i lavori si avviarono a una sospensione ormai certa e solo la spontanea donazione dello stesso Brignole - che secondo alcune fonti ammontò intorno alle 100.000 lire dell'epoca - fecero sì che l'opera di edificazione potesse riprendere.

Il 9 aprile 1657 si ebbe la deliberazione per edificare la Chiesa e mettere la prima pietra, "in onore della Beata Vergine della Concezione e per l'Albergo dei Poveri di Carbonara". Tuttavia il 31 agosto 1666 una nuova istanza del "Magistrato dei Poveri" ancora sollecitava i membri della Repubblica di Genova rispetto al voto fatto dieci anni prima a sostegno del progetto, esortandoli a somministrare il fondo necessario per erigere la Chiesa nell'Albergo dei Poveri fuori delle porte di Carbonara. Con Decreto del 23 agosto 1684, si dichiarò l'Albergo dei Poveri esente dalle gabelle (imposte).

Soprattutto nei primi anni della costruzione l'albergo fu utilizzato per altri scopi, specie dopo il bombardamento navale della flotta francese nel 1684.

Qui si rifugiarono i rappresentanti della repubblica genovese trasferendo provvisoriamente all'interno dell'edificio gli antichi e pregiati beni pubblici genovesi quali il tesoro di San Lorenzo e le ceneri di san Giovanni Battista.

Affinché il complesso giungesse all'aspetto moderno si impiegarono quasi duecento anni, poiché l'edificio fu più volte ampliato, in particolare negli anni 1667, 1689 e 1702. Solo nel 1835 l'edificio assunse l'attuale aspetto.

Nell'ultimo decennio del XX secolo all'edificio è stata data una destinazione più moderna, grazie alla nascita di un nuovo tipo di assistenza agli anziani bisognosi. Una parte del complesso nell'ala orientale dell'edificio è stata inoltre adibita ad aule e uffici di diverse facoltà dell'Università degli Studi di Genova.