Ищем реализацию C++ алгоритма C4.5

Возможно, я нашел возможную C++ "реализацию" C5.0 (см. 0), но я не смог достаточно изучить исходный код, чтобы определить, действительно ли он работает так, как рекламируется.

Чтобы повторить мои первоначальные опасения, автор порта говорит следующее об алгоритме C5.0:

Еще одним недостатком See5Sam [C5.0] является невозможность иметь более одного дерева приложений одновременно. Приложение считывается из файлов каждый раз, когда запускается исполняемый файл, и тут и там сохраняется в глобальных переменных.

Я обновлю свой ответ, как только у меня будет время изучить исходный код.

Обновлять

Выглядит неплохо, вот интерфейс C++:

class CMee5
{
  public:

    /**
      Create a See 5 engine from tree/rules files.
      \param pcFileStem The stem of the See 5 file system. The engine
             initialisation will look for the following files:
              - pcFileStem.names Vanilla See 5 names file (mandatory)
              - pcFileStem.tree or pcFileStem.rules Vanilla See 5 tree or rules
                file (mandatory)
              - pcFileStem.costs Vanilla See 5 costs file (mandatory)
    */
    inline CMee5(const char* pcFileStem, bool bUseRules);

    /**
      Release allocated memory for this engine.
    */
    inline ~CMee5();

    /**
      General classification routine accepting a data record.
    */
    inline unsigned int classifyDataRec(DataRec Case, float* pOutConfidence);

    /**
      Show rules that were used to classify the last case.
      Classify() will have set RulesUsed[] to
      number of active rules for trial 0,
      first active rule, second active rule, ..., last active rule,
      number of active rules for trial 1,
      first active rule, second active rule, ..., last active rule,
      and so on.
    */
    inline void showRules(int Spaces);

    /**
      Open file with given extension for read/write with the actual file stem.
    */
    inline FILE* GetFile(String Extension, String RW);

    /**
      Read a raw case from file Df.

      For each attribute, read the attribute value from the file.
      If it is a discrete valued attribute, find the associated no.
      of this attribute value (if the value is unknown this is 0).

      Returns the array of attribute values.
    */
    inline DataRec GetDataRec(FILE *Df, Boolean Train);
    inline DataRec GetDataRecFromVec(float* pfVals, Boolean Train);
    inline float TranslateStringField(int Att, const char* Name);

    inline void Error(int ErrNo, String S1, String S2);

    inline int getMaxClass() const;
    inline int getClassAtt() const;
    inline int getLabelAtt() const;
    inline int getCWtAtt() const;
    inline unsigned int getMaxAtt() const;
    inline const char* getClassName(int nClassNo) const;
    inline char* getIgnoredVals();

    inline void FreeLastCase(void* DVec);
}

Я бы сказал, что это лучшая альтернатива, которую я нашел до сих пор.

Реализация C++ для C4.5 под названием YaDT доступна здесь, в разделе "Дерева решений":
http://www.di.unipi.it/~ruggieri./software.html

Это исходный код последней версии:
http://www.di.unipi.it/~ruggieri/YaDT/YaDT1.2.5.zip

Из бумаги, где описывается инструмент:

[...] В этой статье мы описываем новую реализацию C ++ с нуля алгоритма индукции дерева решений, который дает деревья решений на основе энтропии в стиле C4.5. Реализация называется YaDT, что является аббревиатурой от Еще один конструктор дерева решений. Предполагаемый вклад этой статьи состоит в том, чтобы представить принципы разработки реализации, которая позволила получить высокоэффективную систему. Мы обсуждаем наш выбор в отношении представления памяти и моделирования данных и метаданных, алгоритмической оптимизации и ее влияния на производительность памяти и времени, а также компромисс между эффективностью и точностью эвристики обрезки. [...]

Документ доступен здесь.

Если я правильно понимаю... кажется, что это организовано не как C API, а как программа C. Набор данных загружается, затем он запускает алгоритм и возвращает вам некоторые описания правил.

Я думаю, что путь, по которому вы должны пойти, зависит от того, будете ли вы:

1. просто нужен интерфейс C++ для предоставления данных и получения правил из существующего движка, или...

2. вам нужна реализация C++, с которой вы можете повозиться, чтобы настроить алгоритм для своих целей

Если вы хотите (1), то вы действительно можете просто создать программу как процесс, ввести ее в виде строк и получить вывод в виде строк. Вероятно, это был бы самый простой и наиболее перспективный способ разработки «оболочки», и тогда вам нужно было бы только разработать классы C++ для представления входных данных и моделирования результатов правила (или сопоставить существующие классы с этими абстракциями).

Но если вы хотите (2)... тогда я бы предложил попробовать любые хаки, которые вы имеете в виду, поверх существующего кода на C или Java - в зависимости от того, что вам удобнее. Таким образом вы узнаете код, и если у вас есть какие-либо улучшения, вы сможете передать их автору. Если вы строите отношения в долгосрочной перспективе, то, возможно, вы могли бы сотрудничать и постепенно переводить кодовую базу C на C++, по одному аспекту за раз, как и был разработан язык.

Думаю, я просто думаю, что философия «Когда в Риме» обычно работает лучше, чем «Порт-на-одном», особенно в начале.

ОТВЕТ НА ОБНОВЛЕНИЕ: Изоляция процесса решает проблему с вашей глобальной переменной. Что касается производительности и размера набора данных, у вас есть ровно столько ядер/процессоров и памяти, сколько у вас есть. Используете ли вы процессы или потоки, обычно это не проблема, когда вы говорите о масштабах на этом уровне. Накладные расходы возникают, если сортировка слишком дорога.

Докажите, что маршаллинг является узким местом и в какой степени... и вы сможете обосновать, почему процесс является проблемой по сравнению с потоком. Но в существующий код могут быть внесены небольшие изменения, удешевляющие сортировку и не требующие перезаписи.