Extended Değeri Tam Bölme - berk06 - 10-09-2021
Merhaba,
Çok ilginç ve içinden çıkılmaz bir şey ile karşılaştım.
var
flFiyat: Extended;
begin
flFiyat := 600/1.18;
yaptığımda "508,474576271186" sonucunu alıyorum. Geri 600*1.18 yaptığımda "599,9999999999995" sonucunu alıyorum.
Aslında bölme işleminde 13 haneli bir sonuç vermeliydi. Yani "508,4745762711864" olmalıydı.
flFiyat verisini başka bir sistem geri 1.18 ile çarptığı ve sonucu hassas bir şekilde işlediği için maalesef tam değeri göndermem gerekiyor.
Daha önce böyle bir şey deneyimleyen var mı? Extended veriler ile ilgili derinlemesine bir çok yazı buldum fakat Delphide neden 12 hane ile kısıtlı olduğunu anlayamadım.
Cvp: Extended Değeri Tam Bölme - vedat35 - 10-09-2021
(10-09-2021, Saat: 01:19)berk06 Adlı Kullanıcıdan Alıntı: Merhaba,
Çok ilginç ve içinden çıkılmaz bir şey ile karşılaştım.
var
flFiyat: Extended;
begin
flFiyat := 600/1.18;
yaptığımda "508,474576271186" sonucunu alıyorum. Geri 600*1.18 yaptığımda "599,9999999999995" sonucunu alıyorum.
Aslında bölme işleminde 13 haneli bir sonuç vermeliydi. Yani "508,4745762711864" olmalıydı.
flFiyat verisini başka bir sistem geri 1.18 ile çarptığı ve sonucu hassas bir şekilde işlediği için maalesef tam değeri göndermem gerekiyor.
Daha önce böyle bir şey deneyimleyen var mı? Extended veriler ile ilgili derinlemesine bir çok yazı buldum fakat Delphide neden 12 hane ile kısıtlı olduğunu anlayamadım.
ben şimdi bunu 1000 basamakla delphide böldürdüm,
600/1,18 =
Kod:
508,4745762711864406779661016949152542372881355932203389830508474576271186440677966101694915254237288135593220338983050847457627118644067796610169491525423728813559322033898305084745762711864406779661016949152542372881355932203389830508474576271186440677966101694915254237288135593220338983050847457627118644067796610169491525423728813559322033898305084745762711864406779661016949152542372881355932203389830508474576271186440677966101694915254237288135593220338983050847457627118644067796610169491525423728813559322033898305084745762711864406779661016949152542372881355932203389830508474576271186440677966101694915254237288135593220338983050847457627118644067796610169491525423728813559322033898305084745762711864406779661016949152542372881355932203389830508474576271186440677966101694915254237288135593220338983050847457627118644067796610169491525423728813559322033898305084745762711864406779661016949152542372881355932203389830508474576271186440677966101694915254237288135593220338983050847457627118
şeklinde sonsuza kadar gidiyor esasında.
Cvp: Extended Değeri Tam Bölme - berk06 - 10-09-2021
(10-09-2021, Saat: 01:45)vedat35 Adlı Kullanıcıdan Alıntı: (10-09-2021, Saat: 01:19)berk06 Adlı Kullanıcıdan Alıntı: Merhaba,
Çok ilginç ve içinden çıkılmaz bir şey ile karşılaştım.
var
flFiyat: Extended;
begin
flFiyat := 600/1.18;
yaptığımda "508,474576271186" sonucunu alıyorum. Geri 600*1.18 yaptığımda "599,9999999999995" sonucunu alıyorum.
Aslında bölme işleminde 13 haneli bir sonuç vermeliydi. Yani "508,4745762711864" olmalıydı.
flFiyat verisini başka bir sistem geri 1.18 ile çarptığı ve sonucu hassas bir şekilde işlediği için maalesef tam değeri göndermem gerekiyor.
Daha önce böyle bir şey deneyimleyen var mı? Extended veriler ile ilgili derinlemesine bir çok yazı buldum fakat Delphide neden 12 hane ile kısıtlı olduğunu anlayamadım.
ben şimdi bunu 1000 basamakla delphide böldürdüm,
600/1,18 =
Kod:
508,4745762711864406779661016949152542372881355932203389830508474576271186440677966101694915254237288135593220338983050847457627118644067796610169491525423728813559322033898305084745762711864406779661016949152542372881355932203389830508474576271186440677966101694915254237288135593220338983050847457627118644067796610169491525423728813559322033898305084745762711864406779661016949152542372881355932203389830508474576271186440677966101694915254237288135593220338983050847457627118644067796610169491525423728813559322033898305084745762711864406779661016949152542372881355932203389830508474576271186440677966101694915254237288135593220338983050847457627118644067796610169491525423728813559322033898305084745762711864406779661016949152542372881355932203389830508474576271186440677966101694915254237288135593220338983050847457627118644067796610169491525423728813559322033898305084745762711864406779661016949152542372881355932203389830508474576271186440677966101694915254237288135593220338983050847457627118
şeklinde sonsuza kadar gidiyor esasında.
Teşekkür ederim, bir çıkış yolu verdiniz.
formatfloat('0.#############', 600/1.18)
şeklinde 13 basamak şeklinde alabildim
Cvp: Extended Değeri Tam Bölme - enigma - 10-09-2021
(10-09-2021, Saat: 01:45)vedat35 Adlı Kullanıcıdan Alıntı: (10-09-2021, Saat: 01:19)berk06 Adlı Kullanıcıdan Alıntı: Merhaba,
Çok ilginç ve içinden çıkılmaz bir şey ile karşılaştım.
var
flFiyat: Extended;
begin
flFiyat := 600/1.18;
yaptığımda "508,474576271186" sonucunu alıyorum. Geri 600*1.18 yaptığımda "599,9999999999995" sonucunu alıyorum.
Aslında bölme işleminde 13 haneli bir sonuç vermeliydi. Yani "508,4745762711864" olmalıydı.
flFiyat verisini başka bir sistem geri 1.18 ile çarptığı ve sonucu hassas bir şekilde işlediği için maalesef tam değeri göndermem gerekiyor.
Daha önce böyle bir şey deneyimleyen var mı? Extended veriler ile ilgili derinlemesine bir çok yazı buldum fakat Delphide neden 12 hane ile kısıtlı olduğunu anlayamadım.
ben şimdi bunu 1000 basamakla delphide böldürdüm,
600/1,18 =
Kod:
508,4745762711864406779661016949152542372881355932203389830508474576271186440677966101694915254237288135593220338983050847457627118644067796610169491525423728813559322033898305084745762711864406779661016949152542372881355932203389830508474576271186440677966101694915254237288135593220338983050847457627118644067796610169491525423728813559322033898305084745762711864406779661016949152542372881355932203389830508474576271186440677966101694915254237288135593220338983050847457627118644067796610169491525423728813559322033898305084745762711864406779661016949152542372881355932203389830508474576271186440677966101694915254237288135593220338983050847457627118644067796610169491525423728813559322033898305084745762711864406779661016949152542372881355932203389830508474576271186440677966101694915254237288135593220338983050847457627118644067796610169491525423728813559322033898305084745762711864406779661016949152542372881355932203389830508474576271186440677966101694915254237288135593220338983050847457627118
şeklinde sonsuza kadar gidiyor esasında
Bu sonucu nasıl aldınız ? FormatFloat() ile olmuyor..
|