Бих препоръчал просто една проста заявка за извличане на всички редове, сортирани по идентификатор на категория. Извеждайте категорията само ако стойността й се промени спрямо предишния ред.
<?php
$stmt = $pdo-> query("SELECT * FROM `myTable` ORDER BY categoryID");
$current_cat = null;
while ($row = $stmt->fetch()) {
if ($row["categoryID"] != $current_cat) {
$current_cat = $row["categoryID"];
echo "Category #{$current_cat}\n";
}
echo $row["productName"] . "\n";
}
?>