Просто трябва да сортирате таблицата по съвкупното (или какъвто и да е показател, който предпочитате) абсолютно разстояние между целта и записите:
SELECT *
FROM my_table
ORDER BY ABS(2.5-num1) + ABS(10.2-num2)
LIMIT 1
Вижте го на sqlfiddle .