Опитайте да започнете със съветника на Percona и да сравните техните препоръки с текущите ви настройки една по една. Не се притеснявайте, че няма толкова много приложими настройки, колкото си мислите.
https://tools.percona.com/wizard
Актуализация около 2020 г. :За съжаление този инструмент достигна края на живота си:https://www.percona.com/blog/2019/04/22/end-of-life-query-analyzer-and-mysql-configuration-generator/
Всички сочат към key_buffer_size
първо, към което сте се обърнали. С 96GB памет бих внимавал с всяка малка стойност по подразбиране (вероятно ще бъде само 96M!).