La construcción del Segundo Templo se completó bajo el liderazgo de los tres últimos profetas judíos Hageo, Zacarías y Malaquías, con la aprobación y financiación persa.
Basado en el relato bíblico, tras el regreso del cautiverio babilónico bajo Zorobabel, se tomaron medidas casi inmediatamente para reorganizar la desolada provincia de Yehud tras la desaparición del Reino de Judá setenta años antes. El cuerpo de peregrinos, formando un grupo de 42.360, habiendo completado el largo y lúgubre viaje de unos cuatro meses, desde las orillas del Éufrates hasta Jerusalén, estaban animados en todos sus actos por un fuerte impulso religioso, y por lo tanto una de sus primeras preocupaciones fue restaurar su antigua casa de culto reconstruyendo su destruido Templo y reinstituyendo los rituales de sacrificio conocidos como los korbanot.
Por invitación de Zorobabel, el gobernador, que les dio un notable ejemplo de liberalidad al contribuir personalmente con 1.000 dáricos de oro, además de otros regalos, el pueblo vertió sus donativos en el tesoro sagrado con gran entusiasmo. Primero erigieron y dedicaron el altar de Dios en el lugar exacto en el que había estado, y luego limpiaron los montones de escombros carbonizados que ocupaban el lugar del antiguo templo; y en el segundo mes del segundo año (535 a.C.), en medio de una gran emoción y regocijo públicos, se pusieron los cimientos del Segundo Templo. Este gran movimiento despertó un gran interés, aunque los espectadores lo vieron con sentimientos encontrados.
Los samaritanos, los habitantes de la capital de lo que había sido Israel, hicieron propuestas de cooperación en la obra. Sin embargo, Zorobabel y los ancianos declinaron toda cooperación, considerando que los judíos debían construir el Templo sin ayuda. Inmediatamente se difundieron malos informes sobre los judíos. Según Esdras 4:5, los samaritanos trataron de «frustrar su propósito» y enviaron mensajeros a Ecbatana y Susa, con el resultado de que la obra se suspendió.
Monedas de Yehud: monedas acuñadas en la provincia de Judea durante el período persa.
Siete años más tarde, Ciro el Grande, que permitió a los judíos volver a su patria y reconstruir el Templo, murió, y fue sucedido por su hijo Cambyses. A su muerte, el «falso Esmerdis», un impostor, ocupó el trono durante unos siete u ocho meses, y luego Darío I de Persia se convirtió en rey (522 a.C.). En el segundo año de este monarca se reanudó la obra de reconstrucción del templo y se llevó a cabo hasta su finalización, bajo el estímulo de los serios consejos y advertencias de los profetas Ageo y Zacarías. Estuvo listo para la consagración en la primavera del 516 a.C., más de veinte años después del regreso del cautiverio. El Templo se terminó de construir el tercer día del mes de Adar, en el sexto año del reinado de Darío, en medio de un gran regocijo por parte de todo el pueblo, aunque era evidente que los judíos ya no eran un pueblo independiente, sino que estaban sometidos a un poder extranjero. El Libro de Hageo incluye una predicción de que la gloria del último templo sería mayor que la del primero.