Обединяване на редове в същия идентификатор в масив

Индексирайте масива на id_document и добавете нови записи към масива по следния начин:

while ($row = mysql_fetch_array($sql)) {
    $sentence[ $row['id_document'] ][] = $row['sentence'];
}