Извличане на всички редове въз основа на заявката в масив

$result = mysql_query("SELECT * FROM $tableName");  
$arr_json = array();
while ($row = mysql_fetch_assoc($result)) {
   $json = json_encode($row);
   $arr_json[] = $json;
}

РЕДАКТИРАНЕ:Като гледам отговора на j08691, изглежда, че може да съм разбрал погрешно.

Както и да е, ако не знаете колко колони имате, направете това:

$arr = array();
while ($row = mysql_fetch_assoc($result)) {
   $arr2 = array();
   foreach ($row as $val) $arr2[] = $val;
   $arr[] = $arr2;
}