Никога не сте присвоили своя низ за връзка към обекта за връзка, точно както казва грешката.
Вмъкнете ред, задаващ низа за връзка преди con.open.
Con.connectionstring = connection
Con.Open()
Или още по-добре, променете израза си за използване, както следва
Dim Connection As String = "Data Source=.\SQLEXPRESS;AttachDbFilename=G:\VB Project\Library Catalog System\Library Catalog System\library.mdf;Integrated
Security=True;Connect Timeout=30;User Instance=True"
Using Con As New SqlConnection(connection)
