Desde mi humilde opinion siempre queda coger un tema propio y personalizarlo puedes usar phpbb, mybb(muy usado ahora), entre otros. Lo ideal seria empezar desde cero para luego modificar el codigo a tu gusto sabiendo lo que estas haciendo porque como uno meta la gamba adios foro.
a esto voy a salir con lo de siempre...
si crees que tienes mas conocimiento y experiencia que el equipo de phpBB y que puedes analizar la seguridad de tu foro y actualizar con la frecuencia de ellos, adelante, hazlo desde 0... si no, toma phpBB, leete la documentación y si quieres modificar cualuier cosa, es php, puedes hacerlo!