Muy Linda realmente  . te paso algunas cositas que vi.

1 - cuando eliminas todos los contactos, te sale un error en tiempo de ejecucion no se "encontro el indice" y sale del programa.

2 - fijate el tema de descargar la conexion a la base, porque me parece por lo que vi no se esta haciendo y despues de hacer algunas ediciones y altas, al salir quedo en uso el archivo de bloqueo de access.

3 - el tema de los MsgBox al usuario cada vez que eliminas es medio fastidioso, y de estar haciendo click en uno y apretar el boton de eliminar, podrias hacer un menu popup en en listbox que tenga opcion de eliminar o editar, eso para mi es mucho mas rapido.

pero son tonterias, la idea esta buena y te quedo bien.

saludos.