La storia della fontana inizia ai tempi dell'imperatore Augusto, quando il genero Agrippa fece arrivare l'acqua corrente fino al Pantheon ed alle sue terme grazie alla costruzione dell'acquedotto Vergine. L'origine del nome Vergine, secondo Frontino, sarebbe stato dato proprio da Agrippa in ricordo di una fanciulla (in latino virgo) che indicò il luogo delle sorgenti ai soldati che cercavano ristoro. Nel 1570 venne restaurato nuovamente da Pio V, che colloca la vasca dal lato opposto di quello della fontana attuale. Papa Urbano VIII per primo ordina una "trasformazione" della piazza e della fontana a Gian Lorenzo Bernini, che progetta una grande mostra d'acqua, collocata lì dove la fontana è ancora oggi, ma il suo progetto venne bloccato per mancanza di soldi. Tocca a Papa Clemente XII nel 1731, il compito di riprendere in mano le sorti della piazza e della fontana; bandisce un importante concorso per la costruzione di una grande mostra d'acqua che occupi l'intera facciata di palazzo Poli. I duchi di Poli, ancora proprietari dell'edificio, protestano, ma sono costretti a cedere alla volontà del nuovo pontefice. Il bando viene vinto da Nicolò Salvi che inizia la costruzione della fontana nel 1732, impostando l'opera secondo un progetto con evidenti influenze barocche e berniniane. L'idea di fondo di Salvi è quella di narrare, tramite architettura e scultura insieme, la storia dell'Acqua Vergine. Papa Clemente XII inaugura la fontana nel 1735, con i lavori ancora in corso. Nel 1740, però, la costruzione viene ancora una volta interrotta, per riprendere solo due anni più tardi.