Saludos, ciertamente QGis te puede ayudar en dicho proceso, lo que vas hacer podríamos decir que es una reclasificación y si profundizas una clasificación mediante un árbol de decisión
El proceso es sencillo pero iterativo (ensayo y error)
Puedes trabajar tanto con las bandas como con el NDVI e incluso combinando ambas (esto también puede realizarse de forma aproximada con una cámara RGB de un DRON)
Lo primero, es que voy asumir es que tu ortomosaico tiene la resolución espacial que distingue las plantas individuales o de forma muy aproximada
Procedimiento:
1.- Consulta los valores de los pixeles que corresponden a las plantas, varios de ellos, hasta definir un rango por ejemplo NDVI > 0,3 y NDVI< 0,8, el extremo superior es para que no te seleccione otra vegetación como arbustos, pastos, arboles aledaños
2.- Abre la calculadora raster llamaremos la imagen "ndvi.tif", escribe la ecuacion en la calculadora
("ndvi@1" > 0,3 AND "ndvi@1" >= 0,8)*1
Esto te genera un raster binario con 1 lo que cumple la condición y valor 0 lo que no cumple
Visita este articulo https://acolita.com/operaciones-esenciales-en-la-calculadora-raster-de-qgis-3/
3.- Verifica el resultado, altera los valores hasta obtener el mejor resultado, puedes combinar ecuaciones utilizando las bandas
4.- Convierte en vectorial, utiliza menú raster> Conversión > Poligonizar