Трябва изрично да дефинирате външния ключ под дефинициите на колоните.
Трябва също да направите product_id неподписан, тъй като родителският ключ е неподписан:
CREATE TABLE orders (
id integer PRIMARY KEY auto_increment,
product_id integer unsigned,
quantity integer,
INDEX product_id_idx (product_id),
CONSTRAINT FK_ORDER_TO_PRODUCT FOREIGN KEY (product_id) REFERENCES products (id)
) engine=innodb;