Yazılım geliştirme dünyasında otonom karar verebilen ve dijital araçlarla insan müdahalesi olmadan etkileşime girebilen sistemlere yönelik ilgi artıyor. Fakat bu gelişmiş yetenekler, sistemlerin beklenmedik yanılgılar yapmasına ve bazen kritik bilgileri silmesine yol açabiliyor.

OpenAI tarafından kullanıma sunulan GPT-5.6 modeli, son günlerde kullanıcıların evraklarını silmesiyle gündeme geldi. Yazılım geliştiriciler, bu yeni modelin denetimsiz bir formda dataları yok ettiğini argüman ediyor.

GPT-5.6 ile Yaşanan Veri Kaybı Sorunları

Unlayer şirketinde çalışan yazılım geliştirici Bruno Lemos, X platformu üzerinden yaptığı paylaşımda GPT-5.6’nın tüm üretim veritabanını sildiğini belirtti. Lemos, modelin yanılgılı bir halde yıkıcı entegrasyon testleri çalıştırdığını ve bu durumun veritabanı tablolarının temizlenmesine sebep olduğunu söz etti.

Benzer bir durum, teknoloji yatırımcısı Matt Shumer tarafından da rapor edildi. Shumer, modelin bilgisayarındaki belgelerin neredeyse tamamını sildiğini ve Linux ile Mac sistemlerinde evrak silme komutu olan rm -rf komutunu çalıştırdığını açıkladı.

Shumer, yaşadığı bu olaydan sonra modelin full access mode yani tam erişim modunda çalıştığını belirtti. OpenAI başkanı Greg Brockman’ın kendisine ulaşarak durumu düzeltmek için dayanak teklif ettiğini de kelamlarına ekledi.

OpenAI’ın Uyarıları ve Kullanıcı Sorumluluğu

GPT-5.6 modelinin sistem kartında, OpenAI kullanıcıları kodlama süreçlerinde modelin çalışmalarını denetlemeleri konusunda uyarıyor. Şirket, modelin kullanıcı maksatlarıyla uyumsuz formda hareket edebileceğini ve birtakım durumlarda değerli bilgilerin silinmesi üzere önemli sonuçlar doğurabileceğini kabul ediyor.

Model, kullanıcıların vazifeleri onaylamasını gerektiren varsayılan modun yanı sıra, diğer bir yapay zeka aracının kodlama yapan modeli denetlediği auto-review mode üzere seçenekler sunuyor. Shumer’in yaşadığı olay sonrasında pek çok kullanıcı, hassas belgelerin tam erişim modunda modele emanet edilmesinin riskli olduğuna dikkat çekti.

OpenAI, Lemos ve Shumer mevzuyla ilgili şimdi resmi bir açıklama yapmadı. Sizce yapay zeka modellerine tam erişim yetkisi vermek bu çeşit riskleri göze almaya kıymet mi?

Kaynak: Shiftdelete