Sí tambien hay un archivo de implementacion de extension .cpp
¿Dónde tiene que estar ese archivo?

Exacto, compilas el archivo .cpp, por ejemplo así para crear una librería dinámica:

gcc -c -fPIC archivo.cpp -o archivo.o
gcc -shared -fPIC archivo.o -o libarchivo.so
 

Y pones libarchivo.so en /usr/lib. Después para compilar tu programa tienes que linkar con esa librería, así:

gcc main.cpp -o main -larchivo
 

Saludos.