A lo que se refiere con "variable de salida" es solo una simple variable en la que se asignara lo que retorne de la función. En este caso una cadena, por lo tanto la variable de salida deve ser declarada con el mismo tipo de dato.
Dim Descifrado as String
Descifrado = EncryptString("OLOGIO", "asd123", DECRYPT)
Luego tu ya ves lo que haces con la variable.