Basicamente deberías conocer que es y como funciona un debugger o depurador, para ello también tendrías que conocer el uso de las apis y su estructura y parametros. Como algo fácil te diré que lo que hace es unirse a un proceso en ejecución (DebugActiveProcess),se obtiene la información del proceso con por ejemplo Process_information  y un vez hecho esto le hace trampa controlando los eventos con una función (WaitForDebugEvent) se implementa un manejador de eventos y se obtiene el estado de los registros, threads (etc) y una vez obtenidos la dirección de dichos eventos y registros se modifican en memoria (WriteMemory).
Esa es la versión super resumida de lo que hace.