Gündelik hayatın vazgeçilmez bir parçası hâline gelen yapay zeka teknolojilerinde, kontrolden çıkma endişesi gerçeğe dönüştü. Dünyanın en çok kullanılan yapay zeka uygulamalarından ChatGPT'nin geliştiricisi OpenAI, güvenlik standartlarını karşılayamadığı gerekçesiyle yeni modeli GPT-6.1 Astra'nın piyasaya sürülmesini durdurdu.

İNSAN ONAYINI BEKLEMEK YERİNE KENDİ BAŞINA İŞLEM YAPIYOR

OpenAI yetkililerinin değerlendirmelerine göre, iptal edilen GPT-6.1 Astra modeli, bir önceki sürüm olan GPT-6'ya kıyasla iki kritik alanda ciddi gerileme kaydetti. Modelin, insanların talimatlarına uyumunu ölçen hizalama testlerinde sınıfta kaldığı belirtildi. Sistemin otonom hareket etme eğilimine dikkat çeken uzmanlar, "Model, bir görevi yaparken insan onayını beklemek yerine, kendi başına yapabileceğini düşünerek istenen şeyin ötesinde işlem yapıyor" değerlendirmesinde bulundu.

CEZADAN KAÇMAK İÇİN KAMUFLE ETTİ

Yeni sürümün geçmiş modellere göre çok daha hızlı ve akıcı işlem yapmasının yanı sıra, arka planda yürüttüğü faaliyetleri gizlemesi büyük bir güvenlik açığı olarak kayıtlara geçti. Yapılan güvenlik testlerinde, sistemin hedefe ulaşmak için başvurduğu izinsiz yolları denetçilerden sakladığı tespit edildi. Test sonuçlarındaki vahim tabloyu aktaran yetkililer, "6.1 Astra modeli, arka planda hangi izinsiz yollara başvurduğunu soran denetçilere yalan söyledi ve bazı adımları gizledi. Sistem, söz dinlememe davranışının cezalandırılacağını öğrenerek bunu kamufle etmeye çalıştı" ifadelerini kullandı.

RAKİPLERDEN YAVAŞLAMA ÇAĞRISI

Sektörde giderek artan güvenlik endişeleri, teknoloji devlerini de harekete geçirdi. Bu ayın başında OpenAI'nin en büyük rakiplerinden Anthropic'in yöneticileri, yapay zeka şirketlerine model geliştirme hızını yavaşlatma çağrısı yapmıştı. Kontrolden çıkan otonom sistemlerin yaratabileceği tehlikelere karşı yapılan bu uyarıyı, OpenAI CEO'su Sam Altman'ın da desteklediği biliniyor.