Prøv at starte med Percona-guiden og sammenligne deres anbefalinger med dine nuværende indstillinger én efter én. Bare rolig, der er ikke så mange relevante indstillinger, som du måske tror.
https://tools.percona.com/wizard
Opdatering omkring 2020 :Beklager, dette værktøj nåede sin ende på livet:https://www.percona.com/blog/2019/04/22/end-of-life-query-analyzer-and-mysql-configuration-generator/
Alle peger på key_buffer_size først, som du har adresseret. Med 96 GB hukommelse ville jeg være på vagt over for enhver lille standardværdi (sandsynligvis kun 96M!).