Le informazioni sulla sua vita sono molto scarse. La principale testimonianza antica è quella dello storico cristiano Eusebio di Cesarea, che, nella sua Storia ecclesiastica, inserisce Zaccheo nella successione dei primi vescovi di Gerusalemme.
Secondo Eusebio, Zaccheo fu il quarto vescovo di Gerusalemme, dopo San Giacomo il Giusto, San Simeone e San Giusto. Gli succedette San Tobia.
Appartenne quindi alla prima generazione di pastori della comunità cristiana di Gerusalemme, formatasi in un ambiente ancora profondamente legato alla tradizione ebraica.
Nei primi decenni del cristianesimo, la comunità di Gerusalemme ebbe una posizione centrale nella vita della Chiesa. Era infatti la città nella quale Gesù aveva vissuto gli ultimi giorni della sua vita terrena, dove aveva avuto luogo la sua Passione e Risurrezione e dove gli apostoli avevano ricevuto lo Spirito Santo nel giorno di Pentecoste.
I primi vescovi della città provenivano dalla comunità giudeo-cristiana. Eusebio ricorda che i primi quindici vescovi di Gerusalemme erano di origine ebraica e che la Chiesa locale rimase guidata da pastori provenienti dalla circoncisione fino agli avvenimenti che seguirono la rivolta ebraica contro l'imperatore Adriano.
Zaccheo appartenne a questa antica successione episcopale e svolse il proprio ministero in un periodo nel quale la comunità cristiana di Gerusalemme viveva ancora in stretto rapporto con le proprie origini ebraiche.
Non sono conosciute con precisione le date della nascita, dell'elezione a vescovo e della morte di San Zaccheo. Le antiche fonti non hanno conservato informazioni dettagliate sulla durata del suo episcopato né sulle singole attività svolte durante il suo governo della Chiesa di Gerusalemme.
La sua successione dopo San Giusto e prima di San Tobia permette tuttavia di collocarlo tra i primi vescovi della comunità cristiana gerosolimitana, probabilmente tra la fine del I e l'inizio del II secolo.
Alcune cronologie antiche hanno tentato di attribuire date più precise al suo episcopato, ma tali indicazioni non sono considerate sufficientemente sicure per ricostruire con esattezza la sua biografia.
San Zaccheo, vescovo di Gerusalemme, non deve essere confuso con il celebre Zaccheo di Gerico ricordato nel Vangelo secondo Luca.
Quest'ultimo era il capo dei pubblicani di Gerico che, desiderando vedere Gesù, salì su un sicomoro. Dopo l'incontro con Cristo, accolse Gesù nella propria casa e manifestò pubblicamente la propria conversione.
Il vescovo Zaccheo di Gerusalemme appartiene invece alla successione dei primi pastori della Chiesa della Città Santa ed è conosciuto quasi esclusivamente attraverso le antiche liste episcopali.
La memoria di San Zaccheo fu conservata nei martirologi medievali e successivamente accolto nella tradizione del Martirologio Romano.
Nonostante la quasi totale assenza di notizie biografiche, il suo nome continua a ricordare uno dei primi vescovi della Chiesa di Gerusalemme, appartenente alla generazione dei pastori che mantennero viva la comunità cristiana delle origini.
San Zaccheo, vescovo di Gerusalemme, è celebrato il 23 agosto.