Драйверът jtds няма същия синтаксис като драйвера ms. Трябва да изпратите името на екземпляра като свойство, т.е. така:
"jdbc:jtds:sqlserver://localhost/master;instance=TESTDATA;..."
Забележете също, че името на базата данни се изпраща като /master
вместо като собственост. Успех!