Оказва се, че ВСЯКА ключова дума на Postgres е двустранен и не може да се използва симетрично.
Така работният код е:
SELECT items.id, items.title, ARRAY_AGG(tags.tag_id)
FROM items
INNER JOIN tags ON (tag.tag_id=items.id)
GROUP BY items.id
HAVING 27 = ANY(ARRAY_AGG(tags.tag_id))