Saludos, hay varias cosas que podrían estar pasando:
- SRC: La mas común son los sistemas de proyección, te recomiendo que revises en que sistema de proyección se encuentra la capa y el proyecto, para que los iguales. Otra recomendación importante es que si tu buffer lo medirás en metros o kilómetros trabajes con una proyección como la UTM. Si esta en geográfica recuerda que un grado equivale a 111 km y esto no es constante, varia con la latitud.
- Herramienta: otro aspecto importante es que herramienta estas utilizando para crear el buffer, como cosa extraña la opción en el menú Geoproceso (Buffer de distancia variable) no es la mas sencilla y practica, aquí tienes que configurar un campo con los valores de distancia y otros parámetros.
Si deseas realizar un buffer sencillo dando un valor de distancia, ve al menú de Procesos, activa la Caja de herramientas, luego Geometría Vectorial, ahí encontraras dos opciones para crear un Buffer, Buffer que es la opción simple y tradicional, y Buffer a un solo lado
También puedes probar en la caja de herramientas, con los algoritmos de GRASS en Vectorial la primera opción es el Buffer
Otra recomendación: puedes crear un buffer sin crear un nuevo Shapefile solo para visualizar como queda utilizando la simbologia, revisa este articulo:
https://acolita.com/creando-un-buffer-dinamico-en-qgis-3/