Bedste måde at gemme enorme logdata

Partitionering i postgresql fungerer godt til store logfiler. Opret først den overordnede tabel:

create table  game_history_log (
    gameid integer,
    views integer,
    plays integer,
    likes integer,
    log_date date
);

Opret nu partitionerne. I dette tilfælde ville en for hver måned, 900 k rækker, være godt:

create table game_history_log_201210 (
    check (log_date between '2012-10-01' and '2012-10-31')
) inherits (game_history_log);

create table game_history_log_201211 (
    check (log_date between '2012-11-01' and '2012-11-30')
) inherits (game_history_log);

Læg mærke til kontrolbegrænsningerne i hver partition. Hvis du prøver at indsætte i den forkerte partition:

insert into game_history_log_201210 (
    gameid, views, plays, likes, log_date
) values (1, 2, 3, 4, '2012-09-30');
ERROR:  new row for relation "game_history_log_201210" violates check constraint "game_history_log_201210_log_date_check"
DETAIL:  Failing row contains (1, 2, 3, 4, 2012-09-30).

En af fordelene ved partitionering er, at den kun vil søge i den korrekte partition, hvilket reducerer søgestørrelsen drastisk og konsekvent, uanset hvor mange års data der er. Her er forklaringen til søgningen efter en bestemt dato:

explain
select *
from game_history_log
where log_date = date '2012-10-02';
                                              QUERY PLAN                                              
------------------------------------------------------------------------------------------------------
 Result  (cost=0.00..30.38 rows=9 width=20)
   ->  Append  (cost=0.00..30.38 rows=9 width=20)
         ->  Seq Scan on game_history_log  (cost=0.00..0.00 rows=1 width=20)
               Filter: (log_date = '2012-10-02'::date)
         ->  Seq Scan on game_history_log_201210 game_history_log  (cost=0.00..30.38 rows=8 width=20)
               Filter: (log_date = '2012-10-02'::date)

Bemærk, at bortset fra den overordnede tabel kun scannede den korrekte partition. Du kan selvfølgelig have indekser på partitionerne for at undgå en sekventiel scanning.

Arv Partitionering