Der er nogle modal form plug-ins som denne på Apex-Plugin.com . Jeg har ikke selv brugt dem, så jeg kan ikke stå inde for dem.
Alternativt kan du bruge din browsers "Vis kilde"-funktion på den Apex-side, du kan lide, og du vil se alle funktionsdefinitionerne, og hvor de kaldes. Det ser ud til kun at bruge de standard JQuery-biblioteker, der følger med Apex 4.0
Opdatering 04/10/2011:
Jeg har for nylig brugt dette modal side plug-in , og kan anbefale det. Der er masser af instruktion, inklusive en halv times YouTube-video, der viser, hvordan man bruger det.