La mala calidad del video cuando lo editas con camtasia no tiene nada que ver con los codecs, si el video te sale pixelado y con franjas grises cuando lo exportas es simplemente porque tu tarjeta gráfica no es suficientemente buena para exportar a ese nivel de calidad. Digamos como metáfora que tu tarjeta gráfica es una brocha de pintar, y como es mala, al "pintar" es decir al exportar con Camtasia,  deja trozos sin pintar, esos trozos son las franjas grises y las zonas pixeladas. La única solución es cambiar la tarjeta gráfica o realizar la exportación en un PC mejor.