Ikke underligt, at det går galt. Du har en stakstørrelse på 128 Mb pr. tråd, men kun 4096 Mb samlet. Det giver dig kun plads nok til at bruge 40 tråde og så ikke have nogen objekter i heapen.
Det er nok bedst at fjerne kommentering af alle pladsstørrelser og lade JVM'en gøre det automatisk.