Можете да постигнете това, като поръчате по позиция на колоната вместо име на колона .
За вашия случай ORDER BY 1
трябва да работи.
SELECT
things.id
,group_concat(DISTINCT
CASE
WHEN things.name <> 'United States' THEN 'Non-US'
WHEN things.name IS NULL THEN 'Unknown'
ELSE things.name
END
ORDER BY 1 SEPARATOR ', ')
FROM things
GROUP BY things.id