Mysql изберете къде не е в таблицата

Мисля, че последното ти изказване е най-добрият начин. Можете също да опитате

SELECT A.*    
from A left join B on 
    A.x = B.y
    where B.y is null