Корреляция между гиперпараметрами классификаторов

Мне интересно, существует ли какая-либо корреляция между гиперпараметрами двух разных классификаторов.

Например: допустим, мы запускаем LogisticRegression для набора данных с наилучшими гиперпараметрами (путем поиска через GridSearch) и хотите запустить другой классификатор, например SVC (SVM классификатора) в том же наборе данных, но вместо поиска всех гиперпараметров с помощью GridSearch, можем ли мы исправить некоторые значения (или уменьшить диапазон, чтобы ограничить область поиска для GridSearch) гиперпараметров?

В качестве эксперимента я использовал классификаторы scikit-learn, такие как LogisticRegression, SVS, LinearSVC, SGDClassifier и Perceptron для классифицировать некоторые хорошо известные наборы данных. В некоторых случаях я могу видеть некоторую корреляцию эмпирически, но не всегда для всех наборов данных.

Поэтому, пожалуйста, помогите мне прояснить этот вопрос.

4 голоса | спросил Muhammad Nawaz 16 thEurope/Moscowp30Europe/Moscow09bEurope/MoscowSat, 16 Sep 2017 08:12:20 +0300 2017, 08:12:20

1 ответ


0

Я не думаю, что вы можете сопоставить различные параметры разных классификаторов вместе, как это. Это происходит главным образом потому, что каждый классификатор ведет себя по-своему, поскольку у него есть свой собственный способ корректировки данных в соответствии с их собственным набором уравнений. Например, возьмем случай SVC с двумя разными ядрами rbf и sigmoid. Возможно, rbf может идеально соответствовать данным с помощью intercept parameter C установить, чтобы сказать 0,001, в то время как 'сигмовидная kernel over the same data may fit with C` значение 0,00001. Оба значения также могут быть равны. Тем не менее, вы никогда не можете сказать это наверняка. Когда вы говорите, что:

  

В некоторых случаях я могу видеть некоторую корреляцию эмпирически, но не всегда для всех наборов данных.

Это может быть просто совпадением. Так как все зависит и от классификаторов. Вы не можете применять его глобально. Соотношение не всегда равно причинно-следственной связи

Вы можете посетить этот сайт и посмотреть на Вы сами понимаете, что, хотя разные функции регрессора имеют один и тот же параметр a, их уравнения сильно различаются и, следовательно, для одного и того же набора данных вы можете существенно различать значения a

ответил Gambit 16 thEurope/Moscowp30Europe/Moscow09bEurope/MoscowSat, 16 Sep 2017 09:31:34 +0300 2017, 09:31:34

Похожие вопросы

Популярные теги

security × 330linux × 316macos × 2827 × 268performance × 244command-line × 241sql-server × 235joomla-3.x × 222java × 189c++ × 186windows × 180cisco × 168bash × 158c# × 142gmail × 139arduino-uno × 139javascript × 134ssh × 133seo × 132mysql × 132