decimal范围(decimal和double的区别)
本文目录
decimal和double的区别
double 双精度浮点 64bit,
decimal 是高精度 128bit,浮点型。
double 有效数字15/16 位,范围 ±5.0 × 10 E−324 to ±1.7 × 10E308
decimal 有效数字 28/29 位,范围 ±1.0 × 10E−28 to ±7.9 × 10E28
( E -- 下接几次方)
decimal的有效位数很大,达到了28位,但是表示的数据范围却比double类型小。
decimal,float和double的区别
float 单精度浮点 32bit,
double 双精度浮点64bit,
decimal是高精度 128bit,浮点型。
float double 是 基本类型(primitive type),decimal不是。
float 有效数字7位,范围 ±1.5 × 10E−45 to ±3.4 × 10E38
double 有效数字15/16 位,范围 ±5.0 × 10 E−324 to ±1.7 × 10E308
decimal 有效数字 28/29 位,范围 ±1.0 × 10E−28 to ±7.9 × 10E28
( E -- 下接几次方)
decimal的有效位数很大,达到了28位,但是表示的数据范围却比float和double类型小。
使用的时候会对计算时的性能有影响。
常数写法:
float f = 12.3F; (带F)
double x=12.3; (不带就是double)
decimal d = 12.30M; (带M)
浮点数运算会有精度损失问题,有精度损失时程序不会报告,要程序员自己注意。
更多文章:
联想thinkpad笔记本报价(联想thinkpad笔记本电脑价格)
2024年7月9日 20:12
thinkpadx130e(thinkpadx130e复位孔在哪里)
2024年7月12日 22:55