Многие из нас выросли с компьютерами, и если они выходят из строя или делают что-то неожиданное, быстрый перезапуск обычно помогает. Если это не работает, это может быть ошибка в том, как это было закодировано или сконфигурировано, иногда это результат аппаратного сбоя, но часто это старый добрый PEBKAC.
Что произойдет, если машина сделает что-то неправильное или неожиданное из-за того, как или чему она научилась?
Как люди, мы по своей природе скептически относимся к целям других людей. Мы используем этот метод выживания, чтобы защитить себя. Хотя многие из вас могут скептически относиться к машинам, вас, вероятно, не беспокоит их предвзятость.
Мы движемся в новый мир искусственного интеллекта (ИИ), машинное обучение — горячая тема вокруг ИИ, где значительные объемы данных используются для обучения машины выполнению задачи. Подобно когнитивной предвзятости у людей, машины, которые обучаются, подвержены предвзятости, и это может проявляться, когда данные, используемые для обучения машины, испорчены.
«Подобно когнитивному искажению у людей, машины, которые обучаются, подвержены предубеждению, и это может быть выражено, когда данные, используемые для обучения машины, испорчены».
Как мы преодолеваем предубеждения?
Когда мы скептически относимся к другому человеку или думаем, что его взгляды предвзяты, мы можем попросить его объяснить свои мысли, как они пришли к тому или иному выводу? Мы также можем захотеть поспорить с ними, предложить другую точку зрения или понимание.
В настоящее время ИИ практически не может объяснить свои рассуждения и вместо этого предлагает оценку вероятности. Эти оценки не очень удобны для человека. Если сегодня вероятность дождя составляет 40%, вы берете с собой зонт?
Область для разведки.
Потребность в более общительном и человеческом взаимодействии и обратной связи с машинами имеет особое значение, когда ставки высоки. Если мы используем ИИ для принятия важных решений, мы должны найти способы объяснить машине свои мысли. Это захватывающая новая область, известная как «Объяснимый ИИ», является компонентом текущих исследований, проводимых Qumodo.
Хотите узнать больше? Подпишитесь на нашу рассылку, чтобы получать статьи прямо на почту.
