Compositore e direttore d'orchestra austriaco.
Allievo di J.N. Fuchs a Vienna, dove attirò l'attenzione di Brahms con il suo Trio op. 3 (1896), divenne amico di Schönberg, cui diede lezioni e consigli. Nel 1904 assunse la direzione della Volksoper. Lasciò Vienna nel 1911 (dopo la morte di Mahler, che lo aveva sostenuto e aiutato, e che fu tra i compositori da lui più amati) e diresse fino al 1927 il Deutsches Theater di Praga (dove tra l'altro guidò nel 1924 la prima rappresentazione di Erwartung di Schönberg); passò poi a Berlino (1927-33) e di nuovo a Vienna, che dovette lasciare dopo l'annessione dell'Austria da parte della Germania, stabilendosi negli Stati Uniti nel 1939.
Vicino a Schönberg, Berg e Webern, Zemlinsky si batté per la diffusione della loro musica, pur senza condividerne gli esiti radicali nella propria attività di compositore. Essa è legata a Mahler e al clima dei primi anni del secolo (in un atteggiamento retrospettivo venato, si direbbe, di mesta consapevolezza), ed è vicina per molti aspetti a quella del giovane Schönberg (che sposò in prime nozze la sorella di Zemlinsky, Mathilde) e in parte anche a quella di Berg, che gli dedicò la Lyrische Suite citandovi uno dei capolavori di Zemlinsky, la Lyrische Symphonie (1922-23).
Altre composizioni di particolare significato sono i 4 quartetti, i 5 Gesänge op. 13 su testo di Maeterlinck (1910), la Sinfonietta op. 23 (1934) e, tra le opere teatrali. Kleider machen Leute (L'abito fa il monaco, 1906-10), Eine florentinische Tragedie (Una tragedia fiorentina, 1916), Der Zwerg (Il nano, 1921), Der Kreidekreis (Il cerchio di gesso, 1932).