Fandt svaret. Det er på denne linje i ALTER DEFAULT PRIVILEGES-dokumentationen.
Du kan kun ændre standardprivilegier for objekter, der vil blive oprettet af dig selv eller af roller, som du er medlem af.
Jeg brugte ændrede standardprivilegier fra en anden bruger end den, der oprettede tabellerne.
Sørg for at indstille rollen til den bruger, der opretter tabellen, før alter default privilege erklæring:
SET ROLE <user_that_creates_new_tables>;
ALTER DEFAULT PRIVILEGES IN SCHEMA public GRANT SELECT ON TABLES TO <user_name>;