tasklist /fi "imagename eq notepad.exe" | find "notepad.exe" && calc || notepad

Con el comando TaskList puedes revisar si hay un .exe funcionando, se combina con Find para ver si lo encuentra o no, si el proceso existe ejecuta calc (la calculadora), si falla ejecuta notepad (el bloc de notas)

Siempre recomiendo leer o tener a mano el manual mínimo y básico de Batch:
Tutorial de Programación Batch (Nikos3194, 2013)
https://mega.nz/file/BthSBKwC#vOqwpfLiI8W7rmnlPuX_EPCnivk7DTdYxMjRzzuRtzc

En la página 17 encuentras encuentras las canalizaciones de secuencia && y ||, si lo prefieres también lo puedes hacer con las clásicos IF ELSE:

tasklist /fi "imagename eq notepad.exe" | find "notepad.exe"
if %ErrorLevel% EQU 0 (
  calc
) else (
  notepad
)

En caso del IF y del ErrorLevel es mejor verlo acá: https://ss64.com/nt/if.html