Et klynget indeks ændrer den måde, rækkerne gemmes på. Når du opretter et klynget indeks på en kolonne (eller et antal kolonner), sorterer SQL-serveren tabellens rækker efter den eller de kolonner. Det er som en ordbog, hvor alle ord er sorteret i alfabetisk rækkefølge i hele bogen.
Et ikke-klynget indeks ændrer på den anden side ikke den måde, rækkerne er gemt i tabellen. Det opretter et helt andet objekt i tabellen, der indeholder den eller de kolonner, der er valgt til indeksering, og en pegepind tilbage til tabellens rækker, der indeholder dataene. Det er som et indeks på de sidste sider af en bog, hvor søgeord er sorteret og indeholder sidetallet til bogens materiale for hurtigere reference.