Det er ret mærkelig opførsel. Jeg har lige kørt din kode lokalt, og alt fungerede. Kan du bekræfte, at du bruger driverversion 0.18.2? Hvis det er tilfældet, så sørg for, at det er den eneste version, der er installeret (bare som en fornuftskontrol).
Jeg tror ikke, det burde gøre nogen forskel, men jeg kørte ikke #group fra MongoMapper -- jeg brugte perlen alene. Det kan du måske også prøve. Her er koden, jeg kørte:
require 'rubygems'
require 'mongo'
d = Mongo::Connection.new.db('blog')
c = d['post']
p c.group("function(x) { return { month: x.date.getMonth(), year:x.date.getFullYear() }; }",
nil,
{ :count => 0 },
"function(x,y){y.count++}",
true)