Както беше споменато в моя коментар, не е нужно да правите подселекция, за да се позовавате на реда, който причинява задействане на ON DUPLICATE KEY. Така че във вашия пример можете да използвате следното:
INSERT INTO `item`
(`item_name`, items_in_stock)
VALUES( 'A', 27)
ON DUPLICATE KEY UPDATE
`new_items_count` = `new_items_count` + 27
Не забравяйте, че повечето неща са наистина прости, ако се хванете, че преусложнявате нещо, което трябва да е просто, най-вероятно го правите по грешен начин :)