Con ambos programas mencionados sólo puedes ver/editar los recursos de una ejecutable: http://en.wikipedia.org/wiki/Resource_(Windows)

El recurso más común en un ejecutable es la información de versión.

Con respecto a saber REALMENTE qué es lo que hace una DLL en particular, pues, la respuesta es sencilla: depende de la DLL. Una DLL es: http://es.wikipedia.org/wiki/Biblioteca_de_enlace_dinámico

Por último: existen DLLs cuyo funcionamiento es conocido en base a las funciones que exportan (Normalmente llamadas librerías del Sistema. Un ejemplo es Kernel32.dll). En realidad no se sabe EXACTAMENTE cómo lo hace (al menos no sin depurar o sin tener el código fuente) pues se aplica el concepto de "caja negra": http://es.wikipedia.org/wiki/Caja_negra_(sistemas).

Saludos!

Para ver el contenido per-se, usa un editor hexadecimal y listo. Siendo archivos ejecutables, no verás más que caracteres raros.

Ahora, para saber qué ejecuta, necesitas un desensamblador. Uno muy recomendable es IDA.

Tambien puedes usar un depurador (debugger), pero con este estarias EJECUTANDO el programa, lo cual es peligroso si no sabes de que programa se trata. De todas formas, para 32 bits el mejor es OlyDbg y para 64 bits yo uso BugDbg (un debugger que esta en Beta aún). Esto es, por supuesto, en Windows.

IDA sirve para ambos (32 y 64 bits)

Saludos!