Hola,
En primer lugar creo que el cable que usastes es el coaxial que se usaba para redes ethernet con mucha perdida.... Te recomiendo uno con menos perdida pero eso si mas caro, por ejemplo el LMR240
Con respecto a como conectarlo, debes ver el tipo de conector que pusistes en la antena y el que tiene tu tarjeta. Buscar en alguna web un pigtail de esas caracteristicas.
No te digo modelos de conectores ya que quizas esa entena la uses en varios dispositivos.
Mi caso es el tener una antena que enchufo a una tarjeta wifi usb o a un router linksys wrt54g  y el conector de la tarjeta y del router son distintos, con lo que tengo dos pigtals. Yo creo que el que necesitas es un pigtail sma_rp a N. De los dos de la foto que mandas ni caso los dos en el lado de la antena es un "N" pero en el lado de la tarjeta son los queusaba cuando tenia una Orinoco PCMCIA y el otro es el que uso en la Linksys WRT54g.  El de las antenas de las tarjetas PCI o USB suelen ser sma_rp. Te recomiendo ir a una tienda y adquirirlo ya echo, y no te lies que te sale mas caro