Te recomiendo este artículo, lo lees y ya me dices :
https://medium.com/udacity/shannon-entropy-information-gain-and-picking-balls-from-buckets-5810d35d54b4

Basicamente la entropía es el nivel de desorden ¿el desorden de qué? de cualquier cosa, entonces necesitas saber para calcularla como sería lo que vayas a ordenar si estuviera ordenado, en ese caso sería 0 (no hay entropía) y luego de ahí pues ya comienzas a sumar según el estado de esa "cosa".

Para hacer un programa así tendrías que definir perfectamente lo que es "algo" ordenado y definir que entiende el programado por como ese "algo" está desordenado y darle un valor.

Si tú nivel de programación es bajo y tú nivel matemático también es mejor que dediques el tiempo a aprender programación o matemáticas, comenzado desde abajo.