Iniciouse como poeta no movemento acmeísta, pero evolucionou cara posicións persoais, síntese do simbolismo, o futurismo e o acmeísmo. A Oda a Stalin, un poema contra Stalin custoulle en 1934 un desterro aos Urales, onde intentou suicidarse, e despois de varios anos en Voronezh, nos que puido continuar a súa obra en condicións precarias, regresou para ser novamente arrestado en 1938 e condenado a cinco anos de traballos forzados. Morreu nun campo de traballo próximo a Vladivostok.
A poesía de Mandelstam, considerado un dos maiores poetas rusos do século XX, foi milagrosamente conservada por Nadiezhda, a súa muller, autora de dous libros: Contra toda esperanza e Libro segundo, nos que conta as tráxicas experiencias que viviu co poeta durante os anos do terror. Mandelstam foi tamén un gran prosista. Coloquio sobre Dante, proba do seu coñecemento da Divina Comedia, que citaba de memoria.