Умножение числа с плавающей запятой на 100 иногда дает несколько неожиданный результат в цели C

Итак, я пытаюсь преобразовать значение UISlider в целое число, чтобы использовать его в качестве индекса для получения значения из NSArray, но умножение значения ползунка иногда дает неожиданный результат.

int index = self.moveHistoryLabelSlider.value * 100;

Результат хорош для первых нескольких, но когда он достигает 0,15, он начинает давать другой результат. Вот NSLog для slider.value и slider.value * 100:

slider value = 0.150000 slider * 100 = 14.999999

Это происходит и с другими числами с плавающей запятой, например, 0,19 * 100 дает 19,999998. Как я могу это исправить?


xcode objective-c multiplication
person rjlacanlaled    schedule 10.12.2020    source источник
comment
См. stackoverflow.com/questions/2667130/how-to-round-cgfloat, вам нужно будет округлить номер   -  person CloudBalancing    schedule 10.12.2020

Ответы (1)


arrow_upward
0
arrow_downward

Эта проблема связана с характером Floating Point Numbers (https://floating-point-gui.de/basic/ < / а>). Вы можете использовать два простых подхода, чтобы минимизировать ошибку округления:

  1. Вычислить целые числа вместо чисел с плавающей запятой с необходимой точностью:
// Float calculation
float value = 0.15; // 0.150000006
float multiplier = 100; // 100
NSLog(@"%f", value * multiplier); // 15.000001

// Convert float to integers and back
int precision = 100;
int intValue = value * precision; // 15
float result = (intValue * (int)multiplier) / (float)precision;
NSLog(@"%f", result); // 15.000000
  1. Используйте NSDecimalNumber для расчета
NSDecimalNumber* decimalValue = [[NSDecimalNumber alloc] initWithDecimal:@(value).decimalValue]; // 15 x 10^-2
NSDecimalNumber* decimalMultiplier = [[NSDecimalNumber alloc] initWithDecimal: @(multiplier).decimalValue]; // 10 x 10^2
NSDecimalNumber* decimalResult = [decimalValue decimalNumberByMultiplyingBy:decimalMultiplier];
NSLog(@"%f", decimalResult.floatValue); // 15.000000
person iUrii    schedule 10.12.2020