Мисля, че това търсиш:
SELECT AVG(items.price)
FROM (SELECT t.price
FROM TABLE t
WHERE t.price > '0'
AND t.item_id = '$id'
ORDER BY t.price
LIMIT 5) items
Ще върне средната стойност на 5-те най-ниски цени – единичен отговор.