Me confundes hablas de dos archivos DAT diferentes

1ero: Dudo mucho (puede que sea, pero...) que la informacion de los archivos a compartir esten en un DAT , es mas probable que esten en el registro o en algun XML u otro tipo de archivo; es que no veo necesidad de encriptar esa informacion.

2do: Que es lo que quieres reemplazar, las carpetas a compartir?

3ero: No habia necesidad de un 3ero, pero siempre se ve bien 

No todos los DAT son iguales, simplemente se llaman DAT porque contienen DATOS o informacion y lo nombran asi. Saber la encriptacion que usa es un poco mas dificil. Dependiendo al p2p (ares en este caso) estoy seguro que googleando puedes encontrar informacion de como hace esto.

La mayoria de los DAT, que son archivos descargados incompletos, son solamente el archivo en binario con un header indicando por donde va o que le falta y datos parecidos.

No creo que ayude mucho pero de algo espero que valga