Първо, проблемът възниква, защото R се опитва да преобразува в локал на Windows, който поддържа UTF8. За съжаление Брайън Рипли много пъти е съобщавал, че Windows няма UTF8 локали. От часовете, прекарани в търсене в мрежата, StackOverflow, Microsoft и т.н., стигнах до заключението, че Microsoft мрази UTF-8 Windows няма да поддържа UTF8.
В резултат на това не съм сигурен, че има лесно решение за това, ако изобщо има някакво решение. Най-доброто, което мога да препоръчам, е да извършите някакво преобразуване от страна на сървъра, да разгледате филтрирането на данните, ако можете, или да опитате с различен език, ако е подходящо (напр. китайски, японски, корейски).
Ако решите да обвиете конвертор, unicode.org препоръчва този ICU инструментариум .