El tamaño de char suele ser un byte, asi que no hace falta conversion. Si lo que quieres hacer es otra cosa, aclaralo mejor porque no me he enterado de nada.

Las variables Byte no existen en C++, a ver si te estas confundiendo de lenguaje...

Por otro lado, lo que puedes hacer es transformar el valor hexadecimal en decimal y pasar dicho valor decimal a la función.

obviamente dejando en claro que un byte = char, pero para representar un byte se requieren 2 chares osea "68", vemos que son dos chares + el cero son 3 chares, por lo cual no existe una forma directa de relacionar ambos datos. por eso de dije que tu función debería interpretar ya sea mediante una tabla o como fuere, los bytes de entrada.

atte

¿Y por que no usas una variable int con el 0X delante como argumento para esa funcion en lugar de pasarlo como cadena?

funcion(int hex);
int hex = 0Xff;

Esa llamada a funcion no hara lo esperado, el problema es el siguiente: sscanf consumira todos los caracteres de la cadena y en base a ellos almacenara un solo numero en la dirección indicada por "strHex".

Para realizar la operación que mencionas se debe utilizar un bucle y en la llamada a función especificar la anchura de campo, esto es, el máximo de caracteres a procesar con (en tu caso) "%Nx". El ultimo paso en el cuerpo del bucle (y ello depende de tu programa) es almacenar el numero obtenido en el array de bytes.

Un programa de ejemplo:

#include <stdio.h>
#include <stdlib.h>
 
int main(void)
{
   char *p = "0011223344556677AABBCCDD";
   unsigned num;
   int nc;
 
   while (sscanf(p, "%2x%n", &num, &nc) == 1){
      printf("%.*s ==> %3u == %2X\n", nc, p, num, num);
      p += nc;
   }
 
   return EXIT_SUCCESS;
}

Y su salida es:

Un saludo