este caso no es algoritmo, sino tecnica... es decir el algoritmo es algo tipo
iniciar programa
revisar si X programa está ejecutandose
si se está ejecutando -> ejecutar contramedidas
la cosa es la tecnica... puedes buscar el programa por nombre, por ruta de ejecución, por resumen ( hash del ejecutable), por primeros bytes, por dll cargadods, etc... en general cualquier cosa que te pueda lleva a identificar que hace algo que no quieres
por otro lado, no creo que logres nada con LOL y cheat engine (CE) es desde casi cualquier punto de vista la herramienta incorrecta sin importar que quieras hacer....
si me dices que quieres hacer te puedo explicar por que fallará