Y lo peor de todo es que cada vez se me asemeja más a iTunes... uf! Demasiado en una sola aplicación. Si te ocurre como a mí, lo más seguro es que después de quitarlo del menú de sonido de Ubuntu, termines desinstalándolo por completo de tu equipo:
sudo apt-get purge rhythmbox
Y lo sustituyas por un reproductor de verdad: VLC.