Близо си.
Операторът LIKE работи с низове (CHAR, NVARCHAR и т.н.). така че трябва да свържете символа '%' към низа...
MS SQL Server:
SELECT * FROM table1,table2 WHERE table1.x LIKE table2.y + '%'
Използването на LIKE обаче често е по-бавно от другите операции. Той е полезен, мощен, гъвкав, но има съображения за производителност. Ще ги оставя за друга тема обаче :)
РЕДАКТИРАНЕ:
Не използвам MySQL, но това може да работи...
SELECT * FROM table1,table2 WHERE table1.x LIKE CONCAT(table2.y, '%')