O método correto para remover um ppa e usar pacote da versão do repositório oficial do Ubuntu é usando o ppa-purge.
Primeiramente, você precisa instalar o ppa-purge:
sudo apt-get install ppa-purge
Daí, você limpa o ppa instalado anteriormente. (Por exemplo, vlc-daily)
sudo ppa-purge ppa:videolan/master-daily