No sé si esta pregunta debería ir aquí, pero bueno yo la responderé y si algún mod piensa que ha de moverse bienvenido sea 

Te iré respondiendo por partes:

• Dices que quieres aprender a programar aplicaciones para Windows, bien, para programarlas, la verdad tienes muchas herramientas pero dices que no tienes conocimientos anteriores... Yo te recomendaría que empezaras con VB.NET (http://es.wikipedia.org/wiki/Visual_Basic_.NET), ya que me trae muy buenos recuerdos (yo empecé con él a aprender), además si tienes cualquier duda, hay mucha documentación en internet y en este foro.
• Sobre el tema de fundamentos de programación... te recomiendo que mires por el foro, hay muchísima documentción, si no encuentras (me extrañaría mucho dimelo y te posteo algo para que comiences...

Bueno, no sé si tendrás alguna duda más, pero recuerda, la mejor forma de aprender a programar es programando 

Recomendaría empezar con Python, JAVA o c.

Con esos lenguajes podrías aprender la estructura, con JAVA el POO(programación orientada a Objetos) y c formar estructuras.

Me encanta VB.NET pero discrepo en que sea el mejor para aprender.

Te recomiendo Java.


Basado en C++ pero simplificado, mucho más fácil de usar, de más alto nivel y menos propenso a errores

Simple y poderoso

Seguro

Orientado por Objetos

Robusto

Interactivo

Dinámico

Facil de Aprender

Amplísima biblioteca estándar de clases predefinidas

Las aplicaciones Java pueden ser ejecutadas indistintamente en cualquier plataforma (Windows, Linux, Mac, [+30]) sin necesidad de recompilación

Independiente de arquitectura de hardware

Interpretado

Amplio espectro: programación tradicional, distribuida, GUI, Web, dispositivos
móviles, etc

Distintas Ediciones: JSE (Proposito general), JEE (entorno empresarial), JME (Aplicaciones para teléfonos móviles, PDAs)

Gestión avanzada de memoria mediante el uso de un recolector de basura

Gestión avanzada de errores, tanto en tiempo de compilación como de ejecución.

Soporte sencillo de múltiples hebras de ejecución.

Creación de Applets

Pueden integrarse módulos escritos en C/C++.

Lenguaje abierto. Kits de desarrollo y documentación gratuitos en la red.

Diciembre 7, 1.995. Microsoft pide la licencia para desarrollar productos bajo el lenguaje Java


Muchos que desconocen el lenguaje y no se han tomado la tarea de desarrollar en Java y lo critícan por ser lento, pero la lentitud de la jvm es relativa, lenta comparada con que? con aplicaciones nativas sí, pero comparado con otros lenguajes de nivel alto es bastante rápida.

Numeric performance in C, C# and Java
http://www.itu.dk/~sestoft/papers/numericperformance.pdf

En algunos casos Java es incluso más rápido que c++

Java vs .NET
http://www.linti.unlp.edu.ar/uploads/docs/java_y__net_comparacion_de_paradigmas.pdf


Muchos vendrán a decirte las características o ventajas principales de su lenguaje preferido y defenderlo a capa y espada. No creo que se trate de eso, yo solo expongo algunos puntos importantes puesto que he utilizado entre muchos otros lenguajes .NET y así como hay ventajas y desventajas entre ambos también hay similitudes.

A todo novato en la programación se le recomienda empezar con Phyton.

Cuando ya logras interpretar su estructura,
el lenguaje que puedes aprender luego sería JAVA,

Y con eso deberías estar preparado para aprender BASIC.

Ya con BASIC puedes manejar C, y con este último, C++.
Hay muchos lenguajes de programación, cada uno con su objetivo y su sintaxis.

Pero primero empezar con Phyton.

Saludos!