Вярвам, че вашата MySQL инсталация е 64-битова (като Windows), нали?
Ruby е 32 бита, така че не можете да свържете 32 бита срещу 64 бита .
Публикувах статия, обхващаща стъпките за инсталиране в моя блог:
http://blog.mmediasys.com/2011/07/07/installing-mysql-on-windows-7-x64-and-using-ruby-with-it/
Тези стъпки използват MySQL Connector/C за заобикаляне на проблемите с 32 бита срещу 64 бита.
И двете mysql или mysql2 gem трябва да работи с това.
