Thế rồi, không những dân Do Thái mà tất cả các dân tộc tù đày trong Đế quốc Babylon đều được vua Cyrus Đại Đế ban bố tự do cho trở về cố hương. Khác xa các vua Ai Cập và Babylon trước đây, ông là vị vua anh minh, nhân đạo và có ngự bút viết: "Trẫm đã quy tụ tất cả các dân tộc đó và Trẫm cho phép họ được về quê hương của chính họ". Theo huấn lệnh của nhà vua, quan Tổng đốc tỉnh Judah là Sheshbazzar - người có dòng dõi vua David - dẫn nhóm người Do Thái đầu tiên trở về thành Jerusalem. Hai năm sau, tức năm 536 trước Công Nguyên, người cháu của David là Zerubabbel dẫn thêm một nhóm người Do Thái thứ hai trở về cố hương, chấm dứt kiếp tù đày của họ. Trở về, trước cảnh hoang tàn của thành Jerusalem họ hết mực đau buồn. Kể từ triều đại Cyrus Đại Đế, dân Do Thái cũng xuất hiện ở Iran. Ông cũng ban của cải và vật liệu xây dựng đền thờ cho vị quan Tổng đốc này. Từ năm 538 TCN cho đến năm 535 TCN, quan Tổng đốc Zerubabbel đã dẫn dắt nhóm người Do Thái đầu tiên về quê hương. Với chính sách tự do tôn giáo, triều đình Cyrus Đại Đế còn bỏ ra tiền của ngân khố quốc gia Ba Tư giúp nhân dân Do Thái xây dựng lại đền thờ. Việc xây dựng Đền thờ thứ hai, được hoàn thành vào năm 516 TCN dưới triều vua Darius Đại Đế 70 năm sau khi Đền thờ Thứ nhất bị phá hủy. Khi Alexander Đại Đế chinh phục Đế quốc Ba Tư, vùng đất Israel rơi vào quyền cai trị của người Hy Lạp cổ (Hellenistic Greek), cuối cùng lại mất vào tay Vương quốc Ptolemaios rồi lại mất vào tay Vương quốc Seleukos.