1С и вещественные числа
☑
0
s-n-a-y
17.04.17
✎
11:58
Во внешней обработке создал форму, в ней реквизит "НовоеЗнач" с типом число 10, 8, неотриц. Создал команду, в коде пишу
НовоеЗнач = 9999999999.99999999;
А а отладчике показывает, НовоеЗнач равно 99.99999999.
В справке написано "Максимально допустимая разрядность числа 38 знаков".
Если делаю тип число 10,10 и присваиваю "1" , в отладчике показывает 0.9999999999 . Это чё за приколы такие? Кто сталкивался? Как побороть?
1
Вафель
17.04.17
✎
11:59
10.8 - на целую цасть остается всего 2 знака
2
mehfk
17.04.17
✎
12:00
А ты понимаешь что означает длина 10 точность 8 ?
3
s-n-a-y
17.04.17
✎
12:01
(1) то есть если я напишу 20,8 , то останется 12 знаков?
4
Dmitrii
гуру
17.04.17
✎
12:02
(3) На целую часть - да - 12.
5
s-n-a-y
17.04.17
✎
12:02
(2) так значит 10 это длина. Ё моё! ок, спасибо
Я не хочу быть самым богатым человеком на кладбище. Засыпать с чувством, что за день я сделал какую-нибудь потрясающую вещь — вот что меня интересует. Стив Джобс