Mediante ingeniería inversa, desempacando el installer y volviendolo a construir con las modificaciones realizadas.


¿Los parámetros de la aplicación, o los del instalador?.

El instalador fue desarrollado con el install-builder de NSIS, lo tienes facil para extraer su contenido, lo dificil sería reconstruir el script de instalación y hacer "X" modificaciones que quieras.

• Universal Extractor

En cambio, si te refieres a editar la configuración de usuario de la aplicación instalada, entonces primero debes averiguar donde se almacena dicha configuración, si es en un archivo local o en el registro de Windows... y según como sea, hacer las modificaciones convenientes en el archivo o clave de registro.
Para averiguar lo que dije solo tienes que monitorear cambios en el sistema de archivos y/o el registro cuando modifiques algún parámetro de la configuración.

• X-Regshot
• MooO File monitor

EDITO:
Me acabo de dar cuenta que es un software open-source y el código fuente está publicado en GitHub:
https://github.com/OCSInventory-NG

Así que también podrías optar por descargarlo y modificar la interfáz de usuario por defecto como sea a tu gusto.

PD: Está desarrollado en VC++

Saludos.

¿Que .exe, el del installer?.

No se si te entendí bien, pero me das a entender que has modificado el source y has compilado el .exe resultante de la aplicación con las modificaciones deseadas, y ahora a lo que te refieres es a como reemplazar tu .exe compilado por el .exe que está empacado dentro del instalador, ¿es correcto?, pues eso sería una faena algo tediosa ya que deberías desarrollar el script de instalación desde cero y sin dejar ningún detalle (ej. la instalación del servicio de OSC inventary, y demás); vamos, aprender NSIS, y nunca he usado NSIS así que en ese aspecto no puedo ayudarte más, pero ya te expliqué como extraer los recursos del instaler, y eso sería el 50% del trabajo hecho.

¿Y si simplemente haces un script de instalación automatizada?, en el lenguaje que sea, Batch por ejemplo ...sería lo más sencillo.

@Echo Off
 
Start /Wait "" "instalador.exe" /S
Copy /Y ".\aplicación modificada.exe" ".\ruta de instalación\aplicación original.exe"
Exit /B 0

De esa manera instalarías el installer original y una vez instalado reemplazarías el .exe original en la ruta d einstalación por tu .exe modificado.

Lo comprimirías todo en un RAR autoextraible (es decir, el instalador, el script batch, y el .exe modificado) para iniciar el script personalizado, y se acabó el problema.

Nota: Modificar "/S" por el parámetro de instalación esatendida adecuado:
http://www.silentinstall.org/nsis

PD: ¿Te referías a eso o no?.

Saludos!

Arriba te indiqué un software capaz de desempacar un installer NSIS, pero como ya dije, para hacer lo que quieres una vez extraido los archivos y reemplazado los .ini, tendrías que descargar NSIS para desarrollar tu mismo el script de instalación, no creo que haya otra manera más sencilla.

Se que es una jodienda, pero esa es la manera. Aquí tienes por donde empezar:
http://nsis.sourceforge.net/Simple_tutorials

Saludos!