con iptables puedes crear un adrees-list, y luego bloquear.
como firewal te recomiendo mikrotik el cual se basa en iptables, si un hacker esta tratando de bloquear los accesos lo mete en un adress-list y lo bloquea de forma automatica aunque tiene muchas funciones mas, no tienes que estar pendiente de nada.