En la documentación de tu placa madre indicará el tipo de memoria y las frecuencias que permite. A partir de ahí es sencillo, selecciona unas memoria del mismo tipo y voltaje y de una frecuencia que como mínimo sean las que soportan la placa.

El overclock lo hacen dinámicamente ya la mayoría de las placas y procesadores modernos, no es para preocuparse. Pero, cuando se hace manual es un tema mas complejo y hay que cuidar mucho las temperaturas