Явно не е направено както трябва. JAR трябва да влезе в /glassfish/domains/[domainname]/lib/ext папка на инсталацията на Glassfish, където [domainname] обикновено по подразбиране е domain1 . Можете и не трябва да го конфигурирате от страната на Eclipse нататък.