randomForest использует R для регрессии, имеет смысл?

Давайте посмотрим. Начнем с %IncMSE:

Я нашел этот действительно хороший ответ на перекрестную проверку о %IncMSE который я цитирую:

если предиктор важен в вашей текущей модели, то назначение других значений для этого предиктора случайным образом, но «реалистично» (т. е. перестановка значений этого предиктора в вашем наборе данных) должно иметь негативное влияние на предсказание, то есть: использование той же модели для предсказания из данных, которые одинаковы, за исключением одной переменной, должны давать худшие прогнозы.

Итак, вы выполняете прогностическую меру (MSE) с исходным набором данных, а затем с «переставленным» набором данных и каким-то образом сравниваете их. С одной стороны, поскольку мы ожидаем, что первоначальная MSE всегда будет меньше, разница может быть учтена. Наконец, чтобы сделать значения сопоставимыми по переменным, они масштабируются.

Это означает, что в вашем случае наиболее важной переменной является покупка, т.е. когда переменная покупка была переставлена ​​(то есть порядок значений изменен случайным образом), результирующая модель была на 12% хуже, чем при наличии переменной в ее исходном порядке с точки зрения расчета среднего квадратная ошибка. MSE был на 12% выше при использовании переставленной переменной покупки, что означает, что эта переменная является наиболее важной. Важность переменной — это всего лишь мера того, насколько важными были ваши переменные-предикторы в используемой вами модели. В вашем случае покупка была самой важной, а коэффициент P/E был наименьшим (для этих 6 переменных). Это не то, что вы можете интерпретировать как хорошее или плохое, потому что оно не показывает, насколько хорошо модель соответствует невидимым данным. Надеюсь, теперь это ясно.

Для перекрестной проверки:

Вам не нужно выполнять перекрестную проверку на этапе обучения, поскольку это происходит автоматически. Приблизительно 2/3 записей используются для создания дерева, а оставшаяся 1/3 (данные вне пакета) используется для последующей оценки дерева (квадрат R для дерева вычисляется с использованием данные ооб)

Что касается улучшения модели:

Показывая только 10 первых строк прогнозируемого и фактического значений доходности, вы не можете принять безопасное решение о том, хороша модель или плоха. Что вам нужно, так это тест на физическую форму. Наиболее распространенным является R в квадрате. Это упрощенно, но для сравнения моделей и получения первого мнения о вашей модели это делает свою работу. Это рассчитывается моделью для каждого дерева, которое вы создаете, и к нему можно получить доступ с помощью data.model$rsq. Он варьируется от 0 до 1, где 1 соответствует идеальной модели, а 0 указывает на очень плохое соответствие (иногда оно может даже принимать отрицательные значения, что указывает на плохое соответствие). Если ваш rsq плохой, вы можете попробовать следующее, чтобы улучшить свою модель, хотя нет уверенности, что вы получите желаемые результаты:

1. Калибруйте свои деревья по-другому. Измените количество выращенных деревьев и обрежьте деревья, указав большое число узлов. (здесь вы используете 500 деревьев по умолчанию и размер узла 5, что может превышать вашу модель.)
2. Если возможно, увеличьте количество переменных.
3. Выберите другую модель. Бывают случаи, когда случайный лес не работает.