Python Catboost: пользовательская метрика оценки Multiclass F1

Как узнать оценку F1 для каждого класса мультиклассового классификатора Catboost? Я уже прочитал документацию и репозиторий github, где кто-то задает тот же вопрос. Однако я не могу понять, как это сделать. Я понимаю, что должен использовать параметр custom_metric в CatBoostClassifier(), но я не знаю, какие аргументы приемлемы для custom_metric, когда я хочу получить F1 оценку для каждого класса моего мультиклассового набора данных.

Предположим, у вас есть набор данных игрушек (из документации):

from catboost import Pool
cat_features = [0, 1, 2]
data = [["a","b", 1, 4, 5, 6],
        ["a","b", 4, 5, 6, 7],
        ["c","d", 30, 40, 50, 60]]

label = [0, 1, 2]

from sklearn.model_selection import train_test_split    
X_train, X_test, y_train, y_test = train_test_split(data, labels, test_size=0.2)
train_pool = Pool(X_train, y_train, cat_features=categorical_features_indices)
validate_pool = Pool(X_test, y_test, cat_features=categorical_features_indices)
params = {"loss_function": "MultiClass",
          "depth": symmetric_tree_depth,
          "num_trees": 500,
#           "eval_metric": "F1", # this doesn't work
          "verbose": False}

model = CatBoostClassifier(**params)
model.fit(train_pool, eval_set=validate_pool)

python multiclass-classification catboost
person user2205916    schedule 21.04.2020    source источник

Ответы (1)


arrow_upward
0
arrow_downward

вы должны использовать TotalF1

params = {
    'leaf_estimation_method': 'Gradient',
    'learning_rate': 0.01,
    'max_depth': 8,
    'bootstrap_type': 'Bernoulli',
    'objective': 'MultiClass',
    'eval_metric': 'MultiClass',
    'subsample': 0.8,
    'random_state': 42,
    'verbose': 0,
    "eval_metric" : 'TotalF1',
    "early_stopping_rounds" : 100
    }

https://catboost.ai/docs/concepts/loss-functions-multiclassification.html

person 이성령    schedule 09.04.2021