Оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой
Електронний архів E-archive DonNTU – (Electronic archive Donetsk National Technical University)
Переглянути архів Інформація| Поле | Співвідношення | |
| Title |
Оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой
|
|
| Creator |
Иваница, Сергей Васильевич
|
|
| Subject |
постбинарный формат числа
погрешность округление чисел интервал |
|
| Description |
В статье рассмотрена точность представления чисел с плавающей запятой и показаны формулы для расчета абсолютной и относительной погрешностей для бинарных и постбинарных форматов. Получены формулы для расчета погрешностей всех форматов и выявлена закономерность между значениями погрешности постбинарного и бинарного форматов одного класса точности. Рассмотрены стандартные способы округления чисел с плавающей запятой и предложен новый способ округления чисел в постбинарных форматах.
|
|
| Date |
2013-04-19T10:17:37Z
2013-04-19T10:17:37Z 2012-09 |
|
| Type |
Article
|
|
| Identifier |
1561-5359
http://ea.donntu.edu.ua/handle/123456789/18912 |
|
| Relation |
№ 4
|
|
| Publisher |
Научно-теоретический журнал "Искусственный интеллект"
|
|