Nach dem großen gesellschaftlichen Umsturz in seiner Heimat siedelte Sergej Prokofjew 1918 in die USA über. Von der New Yorker Musikszene erhoffte sich der aufstrebende russische Künstler den großen Durchbruch. Als Pianist war er auch sehr gefragt, doch seine Kompositionen stießen auf wenig Resonanz. Dies änderte sich mit der Ouvertüre über hebräische Themen op. 34, die die Amerikaner: innen mit Begeisterung aufnahmen.
1919 begegnete Prokofjew in New York dem "Zimro Ensemble" (Zimro = hebr. Gesang), das der herausragende Klarinettist Simeon Bellison ein Jahr zuvor in St. Petersburg gegründet hatte. Sein Ziel war es, mit dem Ensemble ausschließlich jüdische Musik aufzuführen. Nach einer ausgedehnten Konzerttournee u. a. durch Südostasien gastierte das sechsköpfige Ensemble am 1. November 1919 in der Carnegie Hall – mit überwältigendem Erfolg. Ihre Musik, die man heutzutage als Klezmer bezeichnet, war damals außerhalb der jüdischen Gemeinden noch völlig unbekannt. Auch Prokofjew, der die Musiker bereits aus St. Petersburg kannte, war an diesem Abend im Publikum. Wie es anschließend zur Beauftragung kam, wird von beiden Seiten unterschiedlich dargestellt. Schlussendlich aber komponierte Prokofjew auf der Grundlage zweier jüdischer Melodien aus dem Repertoire des Ensembles die Ouvertüre über hebräische Themen. Die Komposition skizzierte er an einem Abend und vollendete sie innerhalb von nur neun Tagen. Ihre Uraufführung fand am 2. Februar 1920 im New Yorker "Bohemian Club" statt.
Das "Zimro Ensemble" feierte mit dem Stück von den ersten Aufführungen an große Erfolge und führte es regelmäßig in seinen Konzertprogrammen auf. Prokofjew bezeichnete später die Ouvertüre als für seinen Geschmack zu "konventionell". Dennoch fertigte er noch 1934 eine Version für großes Orchester an.
