BIGINT UNSIGNED е без знак и не може да бъде отрицателен.
Вашият израз ABS(lektoren.baum2.id - 6)
ще използва отрицателна междинна стойност, ако идентификаторът е по-малък от 6.
Предполага се, че по-ранните версии са имплицитно преобразувани в SIGNED. Трябва да направите гипс.
Опитайте
ORDER BY ABS(CAST(lectoren.baum2.id AS SIGNED) - 6)