¿Cómo está constituida la distribución de trabajo?

Se me ocurren un par de cosas:

Que cada nodo tenga el algoritmo completo del trabajo que debe realizar. Le mandas una instrucción, los datos y que haga todas las operaciones necesarias y te devuelve los datos.
Es decir, como si el nodo fuese una librería precompilada.

Por otra parte si necesitas mucha flexibilidad puedes mandarle un paquete entero con todas las instrucciones que debe ejecutar y los datos iniciales. Una vez recibido todo el paquete el nodo lo ejecuta instrucción a instrucción y devuelve el resultado.
Es un nodo con intérprete, hace lo mismo que está haciendo actualmente pero en vez de mandarle una instrucción cada vez se las mandas todas de una.