Возможные причины.
1) Разворачивать файлы веб-морды нужно средствами линукса, а не виндовым архиватором. В последнем случае "поедут" права на доступ к файлам.
2) Настройки порта в переменной scgi_port в файле конфигурации rtorrent должны совпадать с таковыми в в файле конфигурации веб-морды (rtorrent/config.php).

