Hatayı buldum.
* HEXADECIMAL dünyada ( - ) ifade yok biz bunu decimal cinsinden değerlendirirken veriyoruz.. Yani aritmetik işlemlerde (-)X'den (+)X'e kadar olan genişliğin sadece pozitif yarısını kullanıyorsak tüm ayrılmış kapasitenin yarım kapasite kullanımı gibi değerlendirebiliriz.
Bu bilgi cebimizde olsun.
*
(temp xor 1) ile
temp bir mantıksal etkileşim yapmış. Sonuç, temp'in en sondaki bit durumuna göre, temp yeni değeri eski değerinin bir fazla veya bir eksiği olacaktır.
Bu bilgi de cebimizde olsun.
temp * (temp xor 1) dediğinde aslında kendisini kendisi ile veya bir eksik / fazla ile çarparak karesini alıyor gibi çok büyük rakam oluşuyor.
Overflow da değişken limitine sığmadığı durumdan kaynaklı.
Bu büyüklüğü elimizde tutabilmek için INTEGER limitlerimizi en azından ikiye katlamamız gerekiyor.
* Şimdi cebimize ilk koyduğumuz en üstteki bilgiye başvurucaz. Yarım kapasite kullanma sebebimiz (-) değerler idi değil mi, karesi alınan bir ifadede (-) değer olmayacağını biliyoruz. O zaman (-) değerler olmayacak deyip
UNSIGNED olarak (-)'lerin kapasitesini (+)'lara tahsis edeceğiz.
* Mantık da buradan yola çıkarak, aşağıdaki şekilde
Int64 (
- ve + olmak üzere 9223372036854775807 ) olan limiti, negatif olanları pozitif alana devreden
UInt64 ( Unsigned yani işaretsiz ) ( 18446744073709551615 ) şeklinde iki katına çıkartarak çalışma alanını ikiye katladık.
Uzun lafın kısası çözüm :
function TCryptor.CalcDecryptByte: Byte;
var
temp: UInt64; // burası eskiden Int64 idi
begin
temp := FKey[2] or 2;
Result := word(temp * (temp xor 1)) shr 8;
end;
Artık overflow vermesine neden kalmadı...
Trace ederken rakamların HEX karşılıklarına bakıyordum şu bilgi de aşağıda dursun. ZIP için varsayılan anahtar değerler için hex olarak 1'den 8'e, 2'den 9'a, 3'den 0'a şeklindeymiş. Daha anlaşılır oldular. Karmaşık rakamlar keyifsiz oluyor..
procedure TCryptor.InitKeys(const APassword: string);
var
B: Byte;
begin
FKey[0] := $12345678; // 305419896;
FKey[1] := $23456789; // 591751049;
FKey[2] := $34567890; // 878082192;
for B in TEncoding.ANSI.GetBytes(APassword) do
begin
UpdateKeys(B);
end;
end;