по някаква причина (може би защото използвам rubygems 1.3.7 или инсталирам mysql-2.8.1)
sudo gem install mysql -- --with-mysql-config=/usr/local/mysql/bin/mysql_config
не работи за мен, така че след като разгледах gems/mysql-2.8.1/ext/mysql_api/extconf.rb, разбрах, че extconf.rb търси в ПЪТЯТА за mysql_config, така че опитах
export PATH=$PATH:/usr/local/mysql/bin
sudo gem install mysql
и свърши работата