Estudou em Viena sob Adler (1902-6), graduando-se Doutor com uma tese sobre Heinrich Isaak. Foi um dos primeiros discípulos de composição de Schoenberg (1904-8), juntamente com Alban Berg. Como Berg, desenvolveu-se rapidamente sob a orientação de Schoenberg, realizando em sua Passacaglia uma fusão de influências de Brahmas, Reger e Schoenberg, já bem característica de seu estilo futuro por sua brevidade e modestos níveis dinâmicos. Mas, seguindo Schoenberg, e mesmo musicando poemas do mesmo poeta (Stefan George), foi mais longe que Berg no aprofundamento de suas pesquisas atonais e na iniciação à composição para voz. Seu próximo passo foi na carreira de maestro, que iniciou com modestas indicações no interior antes da I Grande Guerra.

Após o conflito ele estabeleceu-se em Mödling, próximo a Schoenberg, e assumiu a condução dos Vienna Workers’ Symphony Concerts (1922-34). Enquanto isso, prosseguiu em seu estilo atonal, principalmente em canções; as relativamente poucas peças instrumentais de 1909-14 haviam se tornado ainda mais curtas, devido à falta de qualquer meio de desenvolvimento formal em peças desprovidas de clave ou tema. Entretanto, as canções de 1910-25 demonstram uma reintrodução de padrões formais tradicionais antes que ocorresse o surgimento do serialismo (especialmente padrões de cânon, sem dúvida inspirados, assim como a instrumentação de muitas destas canções, pelo Pierrot Lunaire de Schoenberg), até que a adoção do método dodecafônico em Three Traditional Rhymes (1925) parece quase casual, fazendo pouca diferença em um estilo musical que já estava sistematizado pelo contraponto estrito.

Entretanto, Webern logo reconheceu que o método dodecafônico propiciava uma polifonia severa e virtuosística que poderia ser comparada à dos mestres da Renascença que ele havia estudado. Ao contrário de Schoenberg, ele jamais tentou compor em qualquer outro estilo. Antes, o estilo altamente controlado e puro de sua Sinfonia parece ter atingido um ideal que trabalhos posteriores poderiam somente repetir, mostrando apenas facetas distintas. Seu uso da série de 12 sons como fonte de motivos interligados, especialmente em trabalhos instrumentais, só faz enfatizar a perfeição quase geométrica desta música, para a qual encontrou estímulos literários em Goethe, e depois, em obras de seu amigo e vizinho Hildegard Jone, cujos versos ele musicou exclusivamente durante seus últimos doze anos. Com a partida de Schoenberg, a morte de Berg e ele mesmo privado de sua posição, Webern sentiu Jone como um de seus poucos aliados durante a II Guerra Mundial. Foi alvejado por engano por um soldado depois do fim das hostilidades, deixando uma produção originalíssima que inteira não ultrapassa cerca de 3 horas de duração, mas que mais tarde influenciaria gerações de compositores.