MySQL просто преобразува низовете в числа възможно най-добре, така че да може да извърши математическата операция с тях. В този случай просто премахва всички нечислови двоеточия, тирета и интервали.
Опитайте това:
SELECT (20110413155959 - 20110413160000) AS dates;
Вашите дати, без всички неща, които ги спират да са числа - резултатът е -4041