A tu polígono de corte, en su tabla de atributos le asignas una columna de Value = 1. Lo transformas a raster, utilizando el valor de 1. Luego con el Raster Calculator, multiplicas tu raster (polígono) por tu dem. Lo que hace el multiplicar todos los valores del DEM por 1, y al resto le asigna el valor de 0.
Saludos.