Que pasa si en lugar de hacer que los usuarios hagan de seeders para la película que están viendo, estos hagan de seeders para toda la infraestructura de la pagina?
El problema seria al comenzar con el proyecto, teniendo pocos usuarios se complica pero si a la par de tener peliculas online también mantenes un listado online de torrents, los que descarguen formarian parte de la misma infraestructura de seeders global para todo el sitio.
Es difícil de realizar pero si tienes ganas y tiempo puede hacerse. También habrá otras formas de resolver el problema de los pocos usuarios pero en este momento no se me ocurre otra alternativa. Si se me ocurre algo te aviso.

En cuanto al tema del plugin o no plugin, me temo que no te queda otra que hacer un plugin. A mi por lo menos me parece la mejor alternativa POR LO MENOS para empezar.

Saludos

PD: Si haces mucha plata con estas ideas no te olvides del foro 

No puedo aportar mucho de forma técnica, pero me consta que el creador del protocolo p2p, Bran Cohen, está trabajando para adaptar este protocolo al streaming, el servicio se llama BitTorrent live y por ahora creo que está en fase beta y es necesario descargarse un archivo para reproducir los videos (solo está disponible en Linux).
Aqui teneis la pagina: http://live.bittorrent.com/