Публикации по теме 'entropy'
Деревья решений легко объясняются
Деревья решений (DT) - это непараметрический контролируемый метод обучения, используемый для классификации и регрессии. Деревья решений учатся на основе данных аппроксимировать синусоидальную кривую с помощью набора правил принятия решений «если-то-еще». Чем глубже дерево, тем сложнее правила принятия решений и точнее модель.
Дерево решений строит классификационные или регрессионные модели в виде древовидной структуры. Он разбивает набор данных на все меньшие и меньшие подмножества, в то..
Понимание энтропии
Интуитивное руководство
Предпосылка: Понимание ожидаемого значения дискретных случайных величин.
Представьте себе сценарий подбрасывания монеты со следующими исходами и соответствующими вероятностями.
| Outcome | Probability|
|-----------|------------|
| Heads ( H) | 1 |
| Tails ( T ) | 0 |
Эти значения указывают на то, что монета всегда выпадает орлом ( H ), и если мы знаем, что результатом всегда будет H , мы не испытываем никакого «сюрприза», когда..
Дерево решений для всех
Дерево решений — это карта или график, в котором используется метод ветвления дерева для иллюстрации всех возможных результатов на основе узла решения.
Интересная особенность дерева решений заключается в том, что мы можем нарисовать его вручную или создать с помощью программного обеспечения. По сути, мы можем назвать дерево решений вложенным методом программирования «если-иначе», где мы можем нарисовать диаграмму на основе каждого решения, а полученный график можно назвать деревом..
Неуверенность дороже неудачи
Неуверенность дороже неудачи
Розы красные, фиалки голубые. На самом деле, это неправильно, фиалки больше фиолетовые, чем синие. А розы не всегда красные. Мы можем еще больше уточнить правило, создавая цветовой спектр все более точными и сложными способами. В качестве альтернативы мы можем ввести свойство формы. Первый пример выбора модели, а второй пример выбора функции.
Существует несколько различных парадигм обучения (я твердо придерживаюсь теоретических принципов: предсказание..
Энтропия Шеннона, получение информации и извлечение шаров из ведер
Я разработчик учебной программы Программа машинного обучения Nanodegree в Udacity. Учитывая наше обещание студентам, что они всегда будут учиться наиболее ценным и передовым навыкам, я обязан всегда искать способы обновить наш контент. В конце концов, мы не сможем обучить самым современным и трансформирующим технологиям со статическим содержанием, которое никогда не меняется! Машинное обучение - это захватывающая и постоянно меняющаяся область, и наша программа должна отражать это,..
Дерево решений с нуля в Python
Да, вы правильно прочитали !! Дерево может принимать решения !!
Введение:
Когда мы реализуем алгоритм машинного обучения дерева решений с использованием sklearn, мы вызываем методы библиотеки sklearn. Следовательно, мы не реализуем алгоритм с нуля.
В этой статье мы будем реализовывать алгоритм дерева решений, не полагаясь на простую в использовании библиотеку sklearn Python. Цель этого поста - обсудить фундаментальную математику и статистику, лежащую в основе модели алгоритма..
Функции энтропии, кросс-энтропии и потерь
Когда мы говорим о функции потерь логистической регрессии, все мы знаем, что это кросс-энтропия. Но какова интуиция при использовании потери кросс-энтропии? Сегодня мы поговорим об энтропии, кросс-энтропии и функциях потерь с точки зрения теории информации .
«Теория информации занимается представлением данных в компактном виде (задача, известная как сжатие данных или исходное кодирование), а также их передачей и хранением, устойчивым к ошибкам».
Мы свяжем два понятия (энтропия и..
