това проблем във функцията sp_rename или самия sql сървър ли е?

Колоната във вашия код е преименувана на такава, която всъщност включва [] - за заявка в тази колона ще трябва да използвате

SELECT [[RenamedColumnName]]] FROM TestTable

] е ограничен идентификатор, така че трябва да го екранирате. За ] това означава допълнителен ] за всеки, използван в името.