Проблемът беше от mysql, използващ /var/tmp като tmpdir, който не е достатъчно голям, за да копира таблицата и да създаде необходимите индекси. Поправих го, като промених местоположението на tmpdir на място, което съдържа повече място.
първо създадох /home/mysql/tmp директория
mkdir /home/mysql/tmp
след това промених собственика на тази директория на mysql:mysql
chown mysql:mysql /home/mysql/tmp
след това спрях mysql сървър
service mysql stop
след това го стартира отново със следната команда:
service mysql start --tmpdir=/home/mysql/tmp