En https://getbootstrap.com/customize/ puedes ver (y personalizar) todas las variables. Si lo quieres hacer desde los css predeterminados, usa la clase .modal-content.

Por ejemplo:

.modal-content {
    background: #000;
    color: #fff;
}

Si quieres elementos específicos del modal (header, body, footer) usas sus respectivas clases: .modal-header, .modal-body y .modal-footer. Ten en cuenta que tendrás que cambiar más propiedades como el color del border y tal para que se adapten todos al color scheme.

Saludos