Nato a Minsk da genitori di origine ebraica, dopo 4 mesi dalla nascita la famiglia si trasferì a San Pietroburgo[1], dove rimase fino al 1941 quando, a seguito dell'invasione delle Potenze dell'Asse, fu costretta a rifugiarsi a Kazan' sino al 1943.[2]
Negli anni 60 inizia gli studi in campo astrofisico. Nel 1964 Zel'dovič, ed in maniera indipendente anche Edwin Ernest Salpeter, furono tra i primi ad ipotizzare l'esistenza di un disco di accrescimento attorno ad un buco nero di grosse dimensioni responsabile della massiccia quantità di energia rilasciata dalle quasar.
Nel 1974, in collaborazione con A. G. Polnarev, ha suggerito l'esistenza di un effetto memoria gravitazionale, per il quale un sistema di particelle in caduta libera, inizialmente relativamente a riposo, si ritrova spostato dopo il passaggio di un impulso di onde gravitazionali.[3]
^ P. M. Zhang, C. Duval e G. W. Gibbons, The Memory Effect for Plane Gravitational Waves (abstract), in Physics Letters B, vol. 772, 2017-09, pp. 743–746, DOI:10.1016/j.physletb.2017.07.050. URL consultato il 10 giugno 2022.