数据精度的问题

゛，

我在做数学计算时公式是这样的csng（textbox1.text）-csng(textbox2.text),我输入12.33和12，为什么得出的结果却是0.32999999，却不是0.33，为什么用csng（textbox1.text-textbox2.text)得出的结果就是0.33了，为什么了；同样这两个式子用double类型：cdbl（textbox1.text）-cdbl(textbox2.text)和cdbl（textbox1.text-textbox2.text)算出的结果却是一样的，都是0.33，这又为什么了？
还有single在保持小数点后3位，最大可以多大，double在保持小数点后6位最大是多少

龙龙

看不懂.
你应该把"这是为什么"改一下.否则一般的人都不会来的

tp寶寶^ō^

不应该出现益处的情况了，12和12.33那么小，怎么会出现益处了，

玲珑之翼

首先说这不是数据溢出的问题。

新时代

有人知道这个问题吗，不要吝啬与知识了，共享一下了
小弟先谢了

水清苓

因为系统会取和你这个数值最接近的的个大约数。
如果你的数值越大，效果就会越明显。