MySQL 隐式替换导致精度丢失

2021-05-18  本文已影响0人  灰气球

MySQL官方文档 : Type Conversion in Expression Evaluation

前言

原来只知道, MySQL类型隐式替换会影响优化器对索引的选择, 由于遇到了一个隐式替换导致的精度丢失的 Bug ,引起了我对隐式替换的实现逻辑的好奇心.

为什么隐式替换会影响精度吗? 不是类似 String.valueOf() 处理吗?

隐式替换导致精度丢失例子

执行SQL 1 :

select * from type_conversion_test where business_order_id = '210517130303013756';

查询结果 1 :

id business_order_id
3 210517130303013756

执行SQL 2 :

select * from type_conversion_test where business_order_id = 210517130303013756;

查询结果 2 :

id business_order_id
1 210517130303013752
2 210517130303013770
3 210517130303013756
4 210517130303013767
5 210517130303013773

由上面的两个SQL看到, 由于where条件的业务订单id筛选项没有添加引号, 导致了精度丢失问题. 210517130303013756在表中是唯一的, 但是查出来多条数据.

如需构建演示环境请执行如下SQL

# 初始化演示表结构
CREATE TABLE `type_conversion_test` (
   `id` int NOT NULL AUTO_INCREMENT,
   `business_order_id` varchar(45) DEFAULT NULL,
   PRIMARY KEY (`id`),
   KEY `idx_business_order_id` (`business_order_id`)
 ) ENGINE=InnoDB AUTO_INCREMENT=25 DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci;
# 初始化演示数据
INSERT INTO `db_email_util`.`type_conversion_test`
(`business_order_id`)
VALUES
("210517130303013752"),("210517130303013770"),("210517130303013756"),("210517130303013767"),("210517130303013773");

隐式数字到字符串转换的字符集

这里贴出了数字类型相关的替换规则, 想了解更多请查阅官方文档

有关隐式数字到字符串转换的字符集以及适用于CREATE TABLE ... SELECT 语句的修改规则,请参阅本节后面的信息。

以下规则描述了比较操作如何发生转换:

有关将值从一种时间类型转换为另一种时间类型的信息,请参见第11.2.8节“日期和时间类型之间的转换”

结论

select * from type_conversion_test where business_order_id = 210517130303013756;

由于 210517130303013756 没有加引号, 默认将其作为浮点数处理, 所以在 210517130303013756 转浮点数的时候, 导致了精度丢失问题.

上一篇 下一篇

猜你喜欢

热点阅读