Si me equivoco me lo decís pero creo que este tema se podria abordar por :
http://oss.sgi.com/LDP/HOWTO/Querying-libiptc-HOWTO/install.html

Pd : Saludos cuando pueda seguiré investigando sobre el tema.Habierta a más sugerencias.

Hola

Cuando utilizaba gentoo, compilaba el núcleo a mano y las librerias xtables se encuentran hay, podrías echarle un vistazo, te lo digo porque yo tuve un problema similar al tuyo y es que tenia que agregar módulos de xtables.

P.D.: Esa libreria núnca la he visto, por el nombre será algo para ataques DDOS.

Un saludo

iptables -A INPUT -m state --state ESTABLISHED,RELATED -j ACCEPT
iptables -A INPUT -i wlan+ -p tcp --tcp-flags SYN,ACK,FIN,RST RST -j syn-flood && echo " regla-053 ok"
iptables -A FORWARD -i wlan+ -p tcp --tcp-flags SYN,ACK,FIN,RST RST -j syn-flood && echo " regla-054 ok"
iptables -A syn-flood -m limit --limit 4/s --limit-burst 16 -j RETURN && echo " regla-055 ok"
iptables -A syn-flood -m limit --limit 75/s --limit-burst 100 -j RETURN && echo " regla-056 ok"
iptables -A syn-flood -j LOG --log-prefix "SYN FLOOD " --log-tcp-sequence --log-tcp-options -m limit --limit 1/second && echo " regla-057 ok"
iptables -A syn-flood -j DROP && echo " regla-058 ok"

Exacto, modifica el script agregando
Código:

iptables -N syn-flood.


lo mas al principio posible. Es decir, una ves definidas las variables que tengas etc
copia esa sentencia y listo el pollo.

Contame si te funca