f(x) = ae^(x^2+bx+c)

f'(x) = (2*x + b)* a * e^(x^2+bx+c)

Igual debería haberte explicado el por qué, para que te quede claro.
Es simplemente, saber que la derivada de e^x es e^x, y aplicar regla de la cadena.
La regla de la cadena aplicada en este caso sería:
g(x) = x^2+bx+c
f(x) = a*e^(g(x))

Entonces por regla de la cadena:

f'(x) = f'(g(x))*g'(x)

f'(g(x)) = a*e^(g(x)) (porque la derivada de e^x, como dijmos es e^x)
g'(x) = 2x+b

Entonces f'(x) = a*(e^(x^2+bx+c))*(2x+b)

Otra cosa, para realizar cálculos de este tipo, además de derivadas, integrales, raíces y análisis de funciones, te recomiendo la siguiente página:
www.wolframalpha.com

En este caso ponés derivate (tu función) y se aplica, o integrate si querés integrar o directamente la función y verás un análisis completo de ella.
Saludos!