Можете да направите това с помощта на вътрешен избор. Изберете първите двадесет реда във вътрешния избор. Във външния ред за избор подредете тези редове произволно и изберете първите пет:
SELECT *
FROM (
SELECT *
FROM table1
ORDER BY score DESC
LIMIT 20
) AS T1
ORDER BY RAND()
LIMIT 5