Si estas hablando del OllyDbg entonces:

La diferencia está es que con Open File arrancas directamente
el Olly con el .exe y con Attach pues arrancas el programa y con Attach
lo que haces es que te permita debugear el programa con el Olly.

¿Cuando usarlos? Pues yo casi siempre le doy a Open File y si tengo
problemas con ese método ya sea bien porque tarde mucho en cargar
el programa con el depurador encendido o porque tenga algún método
de detección al inicio pues lo arranco normal y después le doy a Attach.

Si te attachas, el proceso ya esta corriendo, por lo que no podras parar nunca en el OEP con el fin de dumpearlo (claro, esto es al menos que no uses algun tipo de artilugio para que el EXE pare en el oep solito, como por ej. insertarle un jmp eip).

De todas formas, el attacheo es util cuando no puedes sortear las protecciones antidebug del inicio y si el packer no tiene antiattach, puedes debuggear el mismo en puntos que te sean necesarios, como por ej.: hacer click en algun boton, ingresar texto, etc.

Entro todos los dias a mirar un poco, pero con escaso tiempo...