博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Non-terminating decimal expansion; no exact re...
阅读量:6605 次
发布时间:2019-06-24

本文共 955 字,大约阅读时间需要 3 分钟。

  hot3.png

由于需要处理精度比较高的浮点数,所以弃用double类型,改用BigDecimal类来进行数值处理。

在加减乘时都没有出现问题,但是到除法运算时,提示了如下错误:

大概的意思是“无法结束的除法表达式;没有精确的除结果”。我当时输入的10/3,结果应该是3.3333....333。

 

于是在网上找资料,发现我原来的处理方式有问题。

BigDecimal num1 = new BigDecimal("10");

BigDecimal num2 = new BigDecimal("3");

BigDecimal num3 = num1.divide(num2);

 

其实devide的函数定义如下

BigDecimal.divide(BigDecimal divisor, int scale, RoundingMode roundingMode) ;

scale为小数位数;

roundingMode为小数模式;

ROUND_CEILING
如果 BigDecimal 是正的,则做 ROUND_UP 操作;如果为负,则做 ROUND_DOWN 操作。
ROUND_DOWN
从不在舍弃(即截断)的小数之前增加数字。
ROUND_FLOOR
如果 BigDecimal 为正,则作 ROUND_UP ;如果为负,则作 ROUND_DOWN 。
ROUND_HALF_DOWN
若舍弃部分> .5,则作 ROUND_UP;否则,作 ROUND_DOWN 。
ROUND_HALF_EVEN
如果舍弃部分左边的数字为奇数,则作 ROUND_HALF_UP ;如果它为偶数,则作 ROUND_HALF_DOWN 。
ROUND_HALF_UP
若舍弃部分>=.5,则作 ROUND_UP ;否则,作 ROUND_DOWN 。
ROUND_UNNECESSARY
该“伪舍入模式”实际是指明所要求的操作必须是精确的,,因此不需要舍入操作。
ROUND_UP
总是在非 0 舍弃小数(即截断)之前增加数字。

写成如下便可通过

BigDecimal num3 = num1.divide(num2,10,ROUND_HALF_EVEN);

转载于:https://my.oschina.net/zhk/blog/145151

你可能感兴趣的文章
部署国内YUM源
查看>>
nginx 报错
查看>>
负载均衡七层 Haproxy
查看>>
大数据下基于Tensorflow框架的深度学习示例教程
查看>>
Linux性能测试top衍生命令atop/htop/slaptop
查看>>
Nginx配置文件详细说明
查看>>
写给iOS程序员的命令行使用秘籍
查看>>
数据加密解密初探
查看>>
DAVINCI DM365-DM368开发攻略——开发环境搭建(DVSDK4.02)
查看>>
我的友情链接
查看>>
jSearch 上码云推荐啦(@红薯 大大亲推)!!!
查看>>
Laravel学习笔记
查看>>
×××的老板,苦逼的程序员
查看>>
python虚拟环境virtualenv下安装MySQL-python
查看>>
OpenStack安装部署
查看>>
ELK部署实战
查看>>
android面试题
查看>>
【原】nginx均衡多tomcat环境配置,及这种环境下的remoteIp及ServerName获取方式
查看>>
chosen.jquery.min.js 使用js手动更新选项
查看>>
spring mvc 视频资料
查看>>