Se trata una traducción de este articulo, al final esta la fuente completa. Iré actualizando este post a medida que encuentre mas herramientas.
Cualquiera es libre de aportar, si lo has leído en alguna web, es recomendable poner la fuente.

---

1. top
Nos provee información sobre todos los procesos arrancados y nos permite cerrarlos. Muestra el usuario que ha arrancado dicho proceso, los recursos que utiliza, PID, CPU, memoria y swap restante, etc. El comando es: top .


2. vmstat
Hace un reporte sobre memoria, paginación, procesos, actividad de la CPU, etc.
Salida:

mad@mad-laptop:~$ vmstat
procs -----------memory---------- ---swap-- -----io---- -system-- ----cpu----
 r b swpd free buff cache si so bi bo in cs us sy id wa
 1 0 0 1580008 99968 441204 0 0 121 16 115 646 3 2 93 2

3. w - Comprueba quien esta loggeado y que hace
w - muestra quien ha iniciado sesión en la maquina y que procesos tiene arrancados.
Ejemplo:

mad@mad-laptop:~$ w
 12:07:51 up 18 min, 2 users, load average: 0,60, 0,65, 0,46
USER TTY FROM LOGIN@ IDLE JCPU PCPU WHAT
mad tty7 :0 11:49 18:12 1:10 0.09s gnome-session
mad pts/0 :0.0 11:59 0.00s 0.34s 0.01s w
mad@mad-laptop:~$ w mad
 12:07:59 up 18 min, 2 users, load average: 0,67, 0,66, 0,46
USER TTY FROM LOGIN@ IDLE JCPU PCPU WHAT
mad tty7 :0 11:49 18:20 1:10 0.09s gnome-session
mad pts/0 :0.0 11:59 0.00s 0.33s 0.00s w mad

4. uptime
Se usa para ver cuanto tiempo lleva encendido un servidor, cuantos usuarios hay conectados y la carga del sistema.

mad@mad-laptop:~$ uptime
 12:09:53 up 20 min, 2 users, load average: 0.67, 0.65, 0.47

5. ps
Muestra todos los procesos activos. Para ver todos los procesos, tanto activos como inactivos se usa el parámetro ps -e o -a

mad@mad-laptop:~$ ps -a
 PID TTY TIME CMD
 2693 pts/0 00:00:00 ps

6. free
Muestra el espacio total y libre de memoria física y swap.

mad@mad-laptop:~$ free
 total used free shared buffers cached
Mem: 2438544 843176 1595368 0 100792 427292
-/+ buffers/cache: 315092 2123452
Swap: 2047992 0 2047992

7. iostat
Muestra la carga del procesador y la actividad de los discos duros.

mad@mad-laptop:~$ iostat
Linux 2.6.32-25-generic (mad-laptop) 02/12/10 _i686_ (4 CPU)
 
avg-cpu: %user %nice %system %iowait %steal %idle
 2,99 0,01 1,80 1,12 0,00 94,08
 
Device: tps Blk_read/s Blk_wrtn/s Blk_read Blk_wrtn
sda 11,01 541,08 82,95 833226 127744
 

8. sar
Muestra la actividad del sistema. Para verlo en tiempo real podemos ejecutar sar 4 5 e ira actualizando los datos.

mad@mad-laptop:~$ sar 4 5
Linux 2.6.32-25-generic (mad-laptop) 02/12/10 _i686_ (4 CPU)
 
12:17:21 CPU %user %nice %system %iowait %steal %idle
12:17:25 all 3,81 0,00 2,40 0,00 0,00 93,80
12:17:29 all 4,51 0,00 4,88 0,00 0,00 90,60
12:17:33 all 3,27 0,00 1,97 0,00 0,00 94,76
12:17:37 all 3,55 0,00 1,43 0,00 0,00 95,02

9. mpstat
Muestra la carga de trabajo de cada microprocesador, empieza contando desde 0.

mad@mad-laptop:~$ mpstat -P ALL
Linux 2.6.32-25-generic (mad-laptop) 02/12/10 _i686_ (4 CPU)
 
12:19:13 CPU %usr %nice %sys %iowait %irq %soft %steal %guest %idle
12:19:13 all 2,92 0,01 1,76 0,96 0,01 0,03 0,00 0,00 94,30
12:19:13 0 3,29 0,00 2,33 0,79 0,02 0,01 0,00 0,00 93,56
12:19:13 1 3,89 0,00 1,47 1,07 0,00 0,01 0,00 0,00 93,55
12:19:13 2 2,55 0,00 1,70 0,61 0,03 0,08 0,00 0,00 95,03
12:19:13 3 1,94 0,05 1,55 1,38 0,00 0,01 0,00 0,00 95,07
 

10. pmap
Nos hace un reporte de un proceso, se puede usar para encontrar cuellos de botella.

pmap -d PID
b7732000 1100 rw--- 0000000000000000 000:00000 [ anon ]
b7845000 12 r--s- 0000000000000000 008:00002 d60319d88cac85ba9e1a07bd06cfbb8c-le32d4.cache-3
b7848000 4 r--s- 0000000000000000 008:00002 4794a0821666d79190d59a36cb4f44b5-le32d4.cache-3
b7849000 4 r---- 0000000000000000 008:00002 LC_MONETARY
b784a000 4 r---- 0000000000000000 008:00002 SYS_LC_MESSAGES
b784b000 4 r---- 0000000000000000 008:00002 LC_PAPER
b784c000 4 r---- 0000000000000000 008:00002 LC_NAME
b784d000 4 r---- 0000000000000000 008:00002 LC_ADDRESS
b784e000 4 r---- 0000000000000000 008:00002 LC_TELEPHONE
b784f000 4 r---- 0000000000000000 008:00002 LC_MEASUREMENT
b7850000 28 r--s- 0000000000000000 008:00002 gconv-modules.cache
b7857000 4 r---- 0000000000000000 008:00002 LC_IDENTIFICATION
b7858000 8 rw--- 0000000000000000 000:00000 [ anon ]
bf95f000 208 rw--- 0000000000000000 000:00000 [ stack ]

11. netstat
Muestra las conexiones activas (sockets abiertos), tablas de rutas, etc.

_socket
unix 3 [ ] FLUJO CONECTADO 4363 
unix 3 [ ] FLUJO CONECTADO 4358 
unix 3 [ ] FLUJO CONECTADO 4357 
unix 2 [ ] DGRAM 4354 
unix 3 [ ] FLUJO CONECTADO 4328 /var/run/dbus/system_bus_socket
unix 3 [ ] FLUJO CONECTADO 4327 
unix 2 [ ] DGRAM 4324 
unix 3 [ ] FLUJO CONECTADO 4291 /var/run/dbus/system_bus_socket
unix 3 [ ] FLUJO CONECTADO 4289 
unix 3 [ ] FLUJO CONECTADO 4286 
unix 3 [ ] FLUJO CONECTADO 4285 
unix 3 [ ] DGRAM 2835 
unix 3 [ ] DGRAM 2834 
unix 3 [ ] FLUJO CONECTADO 2799 @/com/ubuntu/upstart
unix 3 [ ] FLUJO CONECTADO 2796 

12. ss
Muestra información similar a netstat

mad@mad-laptop:~$ ss -s
Total: 629 (kernel 648)
TCP: 47 (estab 29, closed 8, orphaned 0, synrecv 0, timewait 8/0), ports 0
 
Transport Total IP IPv6
* 648 - - 
RAW 0 0 0 
UDP 8 8 0 
TCP 39 36 3 
INET 47 44 3 
FRAG 0 0 0 

Ver todos los puertos abiertos:

mad@mad-laptop:~$ ss -l
Recv-Q Send-Q Local Address:Port Peer Address:Port 
0 128 127.0.0.1:ipp *:* 
0 128 ::1:ipp :::* 
0 128 *:17500 *:* 
0 50 :::microsoft-ds :::* 
0 50 :::netbios-ssn :::* 
 

13. iptraf
Es una de las mejores herramientas de analisis de trafico, nos muestra el trafico de forma interactiva, pudiendo seleccionar varios interfaces,


14. tcpdump
Muestra todos los paquetes que recibe el adaptador configurado. Se necesita saber algo de Networking para entenderlos.

mad@mad-laptop:~$ tcpdump -i
tcpdump version 4.0.0
libpcap version 1.0.0
Usage: tcpdump [-aAdDefIKlLnNOpqRStuUvxX] [ -B size ] [ -c count ]
 [ -C file_size ] [ -E algo:secret ] [ -F file ] [ -G seconds ]
 [ -i interface ] [ -M secret ] [ -r file ]
 [ -s snaplen ] [ -T type ] [ -w file ] [ -W filecount ]
 [ -y datalinktype ] [ -z command ] [ -Z user ]
 [ expression ]

15. strace
Muestra las llamadas y señales del sistema. Se puede usar para depurar un servidor web.

16. Directorio /proc
En el directorio /proc se encuentran varios ficheros que nos pueden mostrar información sobre el sistema.

cat /proc/cpuinfo
 
cat /proc/meminfo
 
cat /proc/zoneinfo
 
cat /proc/mounts

17. Nagios
Nagios es una herramienta de código abierto que sirve para monitorizar la red y el servidor. Puedes monitorizar nodos, servicios, procesos,

18. Cacti
Cacti es una herramienta que dispone de un front-end web para usarlo junto con herramientas RRDtool
Se puede usar para monitorizar hosts locales y remotos, es una herramienta pensada para usarla en grandes redes.

19. KDE System Guard
KSysguard es una herramienta gráfica parecida a las ultimas dos citadas.
KDE SysGuard HandBook
Docs de KSys en Español



20. Gnome System Monitor
Esta herramienta viene instalada por defecto en todas las distribuciones Ubuntu.


22. Htop
Herramienta parecida a top, se podría decir que es una versión mas avanzada de esta.

---

Fuente:
20 Linux System Monitoring Tools Every SysAdmin Should Know

mtr (Matt's traceroute)

mtr o My traceroute es un programa que combina las funcionalidades de traceroute y ping en una única utilidad de diagnóstico.