Se præsentationen af SQL Server Express Local DB Runtime - giver et godt overblik.
Den store fordel ved LocalDB er, at det er ægte SQL Server - det er en speciel version af SQL Server Express, men den understøtter grundlæggende alt, hvad "rigtig" SQL Server har - geografiske datatyper, lagrede procedurer - you name it.
SQL Server Compact Edition er på den anden side en meget nedskaleret version - mange funktioner og datatyper understøttes ikke. Den er mindre og mere "adræt" - men den mangler meget punch.
Jeg ville personligt vælge SQL Server Express med LocalDB runtime frem for SQL Server CE 4 - medmindre du specifikt har brug for den lille størrelse af SQL Server CE (f.eks. på en mobilenhed).
Se også en sammenligning mellem SQL Server CE 3.5, CE 4.0, SQL Server Express 2008 R2 og SQL Server 2012 Express LocalDB på ErikEJs fremragende Everything SQL Server Compact websted.