Avevo già segnalato LightBox come ottimo sistema. Aggiungo anche Thickbox, quello utilizzato per il sito di add-on di firefox per la gestione dei thumbnails ingrandibili.

Moltissime le possibilità di personalizzazione.
Un prodotto veramente ottimo, della jQuery.