Pompeo Mariani nasce a Monza il 9 settembre 1857, figlio di Martino Mariani e di Giulia Bianchi in una casa di Borgo Como, nei pressi della chiesa di San Biagio. La madre Giulia, figlia del pittore Giosuè Bianchi, è sorella del più famoso Mosè. Il giovane Pompeo compie a Monza gli studi ginnasiali e viene avviato alla carriera bancaria a Milano dove è introdotto nei circoli culturali del tempo, il Cova e La Scala. Conosce Gaetano Braga, Arrigo Boito, Luigi Conconi e Vespasiano Bignami. Si dedica alla musica e disegna caricature.
Nel 1878 prende in segreto lezioni di pittura da Eleuterio Pagliano. Lo zio Mosè intercede per lui presso la famiglia che non lo vuole dedito all’arte, e lo sollecita a lavorare all’aperto nel Parco di Monza.
Nel 1880 compie un viaggio in Egitto, riportandone dei lavori che susciteranno interesse e anche un buon successo commerciale. È anche attivo a Genova, dove esegue una serie di dipinti che riportano premi. Stabilisce il suo primo studio di pittura nella Villa Sala (1884), ma continua anche a lavorare nel parco con lo zio Mosè ed il cugino Emilio Borsa.
Nel 1885 espone a Parigi e a Londra; l’anno successivo muore il padre e si trasferisce con la madre nell’attuale via Volta. Ottiene un premio a Monaco di Baviera; dedicandosi inoltre alla ritrattistica, esegue dipinti per la borghesia e nobiltà milanesi. Viene anche incaricato del ritratto del re Umberto I ed è a Roma per eseguirlo dal vero (1889).
Soggiorna a Gignese, sopra il Lago Maggiore, dove dipinge soggetti di paesaggio con molto successo. Nel 1893 espone a Chicago ottenendo notorietà anche oltreoceano. Nel frattempo inizia a risiedere a Bordighera, dove poi vivrà nei suoi ultimi anni. Tra il 1900 e il 1903 tiene studio a Milano, in corso Magenta, lavorando a soggetti di equitazione e della vita sociale e mondana della città.
Nel 1907 sposa la cantante lirica Marcella Caronni. Trasferisce casa e studio in via Montenapoleone, dove rimarrà fino al 1918 per poi trasferirsi nuovamente, questa volta in piazza Sant’Alessandro; si fa costruire una casa anche a Bordighera nel 1911. Espone oltreoceano, a Buenos Aires e a New York. A Bordighera esegue nel 1919 un piccolo ritratto della regina Margherita. Nel 1923 espone a Milano una grande mostra di suoi dipinti di varie epoche.
Muore a Bordighera il 25 gennaio 1927 e viene sepolto nel cimitero di Monza.