Така че искате да премествате папки само ако папка със същото име под целевата родителска папка не съществуват:
UPDATE file_manager_folder f1
LEFT OUTER JOIN file_manager_folder f2
ON f1.name = f2.name AND f2.parentId = 54
SET f1.parentId = 54
WHERE f2.name IS NULL AND f1.id IN (1,2,3);
Условието за присъединяване търси папка със същото име под целевия родител. Клаузата WHERE тества, че такава папка не съществува (f2.name е нула само ако външното съединение не намери съвпадение).