Hvis du støder på denne fejl igen efter opgradering til 12.04 (eller for folk, der ankommer her efter at have googlet titlen på denne side efter opgradering til 12.04), virkede følgende for mig:
gem uninstall mysql2
gem install mysql2
Dette vil genkompilere perlen ved hjælp af libmysqlclient18, og virkede for mig.
Håber det hjælper nogen derude.