Den enkleste måde at gøre det på, hvis du ikke er bundet til en bestemt ramme, er med en egenskabsfil. Tag et kig på den sidste del af det accepterede svar for dette spørgsmål (ikke XML-bitten til dit tilfælde).
Afhængigt af om du bruger en servletbeholder eller lignende (f.eks. Tomcat, Glassfish osv.), kan du også overveje at bruge den pågældende beholders forbindelsesindstillinger og forbindelsespooling, hvilket kan være enklere end at genbruge dine egne forbindelser.
Men hvis du bare prøver at føle dig ind i Java, og dette er for dig at lære om JDBC, så hold det simpelt i starten og læs blot dine egenskaber fra en db.properties-fil på din klassesti.