Narodil se na slovenské Oravě, studoval v Košicích a na univerzitě v Praze. Aktivně se účastnil levicového studentského hnutí a roku 1936 vstoupil do KSČ. Po útěku do Anglie dokončil studia v Oxfordu a stal se spolupracovníkem československé exilové vlády. Později byl jmenován členem čs. delegace na mírové konferenci v Paříži.

Do diplomatických služeb vstoupil na samém počátku studené války, v letech 1947–1949 působil jako rada čs. velvyslanectví v Londýně, než přijal nabídku na místo velvyslance v nově vzniklém Izraeli. Po dvou letech byl z postu odvolán a v souvislosti s připravovanými politickými procesy byl v prosinci 1951 zatčen a v květnu 1953 odsouzen na doživotí. Následující čtyři roky strávil Goldstücker ve vazební věznici v Ruzyni, ve vězení v Leopoldově a v Jáchymově. Propuštěn byl mezi prvními na Vánoce 1955.

Zde začala jeho univerzitní kariéra. Katedru germanistiky na Filozofické fakultě UK vedl až do své druhé emigrace. Vyvrcholením Goldstückerových snah bylo bezesporu konání Kafkovské konference v Liblicích (květen 1963). Jako rehabilitovaný člen strany, angažovaný literát a vědec a také známá osobnost se zapojil do obrodného procesu roku 1968. Ihned po invazi bratrských armád emigroval do Anglie. Zemřel 27. 10. 2000 v Praze.