Имах същия проблем и за мен това се оказа проблем с начина, по който създадох хранилището за ключове. Забелязвам, че използвате един и същ файл, truststore.ts, както за truststore, така и за keystore. Това може да работи, но предлагам да използвате отделни файлове, за да избегнете объркване.
Вече бях създал .pem файлове за root CA и за потребителя на mongo и успях успешно да ги използвам за свързване с обвивката на mongo. От тях създадох truststore.jks и keystore.jks.
Първо, за да създам truststore.jks изпълних:
keytool -import -alias root -storepass mypass -keystore truststore.jks -file rootca.pem -noprompt
За keystore.jks са ви необходими както публичният, така и частният ключ, така че първо преобразувайте PEM файла във формат PKCS12 и след това импортирайте в JKS:
openssl pkcs12 -export -out myuser.pkcs12 -in myuser.pem -password pass:mypass
keytool -importkeystore -srckeystore myuser.pkcs12 -srcstoretype PKCS12 -destkeystore keystore.jks -deststoretype JKS -deststorepass mypass -srcstorepass mypass