oracle数字类型num比较大小,关于类型:Oracle NUMBER比较

oracle数字类型num比较大小,关于类型:Oracle NUMBER比较通常,在编程中,不应比较浮点数据类型的相等性,因为存储的值通常是近似值。由于两个非整数的OracleNUMBER值存储方式不同(基数为10),是否可以可靠地比较它们的相等性?是的,OracleNUMBER类型是精确的。与浮点/双精度类型相比,它们更像是带刻度的整数。因此NUMBER(10,3)具有10位数字,在小数点后3位,这实际上是10位整数,小数位数为3。实际上,这就是JavaBig…

大家好,又见面了,我是你们的朋友全栈君。

通常,在编程中,不应比较浮点数据类型的相等性,因为存储的值通常是近似值。

由于两个非整数的Oracle NUMBER值存储方式不同(基数为10),是否可以可靠地比较它们的相等性?

是的,Oracle NUMBER类型是精确的。 与浮点/双精度类型相比,它们更像是带刻度的整数。 因此NUMBER(10,3)具有10位数字,在小数点后3位,这实际上是10位整数,小数位数为3。实际上,这就是Java BigDecimals的工作方式的精确之处(内部是BigInteger加上小数位数)。

有任何可用的文档吗?

download.oracle.com/docs/cd/B19306_01/server.102/b14220/

不,它们不精确。

如果两个NUMBER类型包含一个数字(例如10.32)并且您将它们进行比较,则它们将相等,并且无论如何获取10.32都无关紧要。 这与浮点数不同。 在NUMBER类型中为0.1 + 0.1 + 0.1 + 0.1 + 0.1 = 0.5,但在浮点数学中则不需要。 这就是我所说的精确值(假设NUMBER类型的小数位数至少为1)。

Quassnoi,请详细说明。

Oracle NUMBER类型存储为一组百位数(即base 100,而不是base 10),每个字节一位。

第一个字节代表指数,其他字节代表尾数。

这意味着对于非常大的数字,甚至整数也可以取整:

SELECT  10000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000 –

10000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000001

FROM    dual

0

Oracle可以保证NUMBER中的38位精度,尽管可以表示40位。 有关参考,请参见Oracle Concepts。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/163910.html原文链接:https://javaforall.cn

【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛

【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...

(0)


相关推荐

  • docker开放2375端口号

    docker开放2375端口号1.编辑docker.service文件忘记编辑方法的老铁,可参考:https://blog.csdn.net/leinminna/article/details/97103557具体命令如下:vim/usr/lib/systemd/system/docker.service在ExecStart=/usr/bin/dockerd后插入-Htcp://0.0.0.0:2375-…

  • Response.ContentType 网页输出word excel 的格式

    Response.ContentType 网页输出word excel 的格式不同的ContentType会影响客户端所看到的效果.默认的ContentType为text/html也就是网页格式.代码如:显示的为网页,而则会显示html原代码.以下为一些常用的ContentTypeGIFimagesJPEGimagesTIFFimagesMICROSOFTWORDdocument

  • Exposing Deep Fakes Using Inconsistent Head Poses论文详记

    Exposing Deep Fakes Using Inconsistent Head Poses论文详记ExposingDeepFakesUsingInconsistentHeadPoses论文详记一、论文简述二、论文内容A、三维头部姿势估计B、DeepFake中头部姿势的不一致性C、基于头部姿势的分类三、论文实验及结果一、论文简述利用3D头部姿势误差检测DeepFake视频,属于基于帧内图像伪影的检测方法,使用低级语义层次特征+SVM分类器,属于浅层分类器方法。二、论文内容作者观察到,在DeepFake产生的过程中,会把生成的虚假人脸拼接到源视频图像中的人脸区域,在这个过程中,将不可避免

  • maven镜像还有不支持发型版本5

    maven镜像还有不支持发型版本5maven镜像<mirror> <id> alimaven </id> <mirrorOf> central </mirrorOf> <name> aliyunmaven </name> <url> http://maven.aliyun.com/nexus/content/repositories/central/ </u

  • hive的元数据存储在derby和mysql_桌面云必须部署的组件包括

    hive的元数据存储在derby和mysql_桌面云必须部署的组件包括搭建hive的环境需要hadoop的dfs和yarn可以正常运行的情况下。准备好apache-hive-1.2.1-bin.tar.gz和mysql-libs.zip两个包hive安装步骤:解压apache-hive-1.2.1-bin.tar.gz到/usr/local/src下,并且将其重命名为hivetar-zxvfapache-hive-1.2.1-bin.tar.gzmvapache-hive-1.2.1-binhive复制/hive/conf下的hive-en.

    2022年10月31日
  • vue.js中created()与activated()的个人使用理解

    vue.js中created()与activated()的个人使用理解created():在创建vue对象时,当html渲染之前就触发;但是注意,全局vue.js不强制刷新或者重启时只创建一次,也就是说,created()只会触发一次;activated():在vue对象存活的情况下,进入当前存在activated()函数的页面时,一进入页面就触发;可用于初始化页面数据等…

    2022年10月26日

发表回复

您的电子邮箱地址不会被公开。

关注全栈程序员社区公众号