Продолжайте создавать несколько дочерних процессов от одного и того же родителя

Вы не вызываете exit() в конце блока else для каждого дочернего элемента. Из-за этого дочерний процесс вернется к циклу for и выполнит следующую итерацию, снова вызвав fork(). Если есть 3 файла, родитель будет разветвляться 3 раза, дочерний файл для файла 1 будет разветвляться 2 раза, а дочерний файл для файла 2 будет разветвляться 1 раз.

Сразу после вызова printf("Exiting child \n"); вам нужно вызвать exit(0), чтобы дочерний процесс завершился.

Отвечая на ваш комментарий, тот факт, что вы вызвали fork() и проверили, что возвращаемое значение не равно ‹ 0, гарантирует, что дочерний процесс был создан, а проверка того, что возвращаемое значение равно 0, гарантирует, что это дочерний процесс.

Помните, что fork() возвращается дважды в случае успеха: один раз к родителю с pid дочернего элемента и один раз к дочернему элементу с 0.

Как упоминалось другими, вы не exit() в конце блока else.

Однако я хотел бы предложить улучшение: поскольку вы пытаетесь реализовать параллельную обработку, чтобы повысить производительность в быстрой задаче, как насчет использования потоков вместо fork()ing целых процессов?

Вот пример кода, который иллюстрирует, что вы можете сделать:

// adapted from https://computing.llnl.gov/tutorials/pthreads/
// compile with: gcc calc_checksum.c -o calc_checksum -lpthread

#include <pthread.h>
#include <stdio.h>

void* calc_checksum(void* pFileNameIdx)
{
    const int fileNameIdx = (int)pFileNameIdx;
    printf("Entering child \n");
    // filenames should be a global variable somewhere
    // or, better, just pass "&filenames[fileNameIdx]" instead of pFileNameIdx
    printf("%s ", filenames[fileNameIdx]);

    // reading file
    handle = open(filenames[fileNameIdx], O_RDONLY);

    // allocating memory
    buffer = malloc(BUFFER_SIZE);

    int checksum = 0;

    do
    {
        // calculating checksum
    } while(length);

    printf( " -%d\n", checksum);
    printf("Exiting child \n");

    free(buffer);  // !! don't forget to free() the resources that you don't need anymore

    // exit the thread
    pthread_exit(NULL);
}

int main (int argc, char *argv[])
{
    // initialization code ...
    file_cnt = number of .bin files in the current dir

    pthread_t threads[file_cnt];
    int retCode;

    for(i = 0; i < file_cnt; i++) 
    {
        retCode = pthread_create(&threads[i], NULL, calc_checksum, (void*)i);
        if (retCode){
            printf("ERROR; return code from pthread_create() is %d\n", retCode);
            exit(-1);
        }
    }

    pthread_exit(NULL);
}

Примечание: независимо от метода (fork() или pthreads): не забудьте free() зарезервировать память, которую вы зарезервировали с помощью malloc().