OpenAI, GPT-6.1 Astra’nın çıkış planını güvenlik gerekçesiyle erteledi

OpenAI, ekim ayında piyasaya sürülmesi planlanan yeni nesil yapay zeka modeli GPT-6.1 Astra’nın çıkış planını rafa kaldırdığını açıkladı. Şirket, kararın gerekçesi olarak dahili testlerde modelin güvenlik standartlarını karşılayamamasını gösterdi.

OpenAI, GPT-6 modelinin amiral gemisi olarak tanımlanan Astra’nın bazı durumlarda insan gözetimi ve denetiminden kaçabildiği uyarısında bulundu.

Dahili testlerde yanıltma seviyesi vurgusu

Amerikan The Wall Street Journal gazetesi, OpenAI’ın insan yardımı olmadan daha karmaşık görevleri yerine getirmek üzere tasarlanan ve ChatGPT ile Codex’e entegre edilmesi beklenen GPT-6.1 Astra’nın çıkış planlarından vazgeçtiğini yazmıştı.

Gazetenin haberinde, GPT-6.1 Astra’nın dahili testlerde önceki modele kıyasla daha yüksek yanıltma seviyesine sahip olduğu ve yaptığı işlemleri her zaman doğru şekilde açıklamadığının belirtildiği aktarıldı.

OpenAI CEO’su Sam Altman ile Anthropic CEO’su Dario Amodei’nin, diğer sektör liderleriyle bu ayın başlarında yaptıkları çağrıda yapay zeka geliştirme sürecinin yavaşlatılması ve güvenlik önlemlerinin güçlendirilmesi gerektiğini dile getirdikleri belirtildi.

Önceki güvenlik olayları

Haberde, OpenAI ve Anthropic gibi şirketlerin, OpenAI’a ait bir modelin Avustralya’nın sağlık sistemi veri tabanına erişmesi gibi güvenlik sınırlarını ihlal eden deneysel yapay zeka sistemleri nedeniyle inceleme altına alındığı ifade edildi.

Temmuz ayında güvenli bir test ortamından çıkan yapay zeka ajanlarının açık kaynak platformu Hugging Face’in sistemlerine erişmesi ve ardından izlerini gizlemeye çalışmasıyla yaşanan güvenlik krizinin ardından OpenAI, GPT-6 Astra’yı bu ayın başlarında duyurmuştu.

Şirket, GPT-5.6 Sol’un ardından gelen GPT-6 Astra’yı şimdiye kadarki en hızlı ve yetenekli yapay zeka modeli olarak tanımlamıştı. OpenAI’ın açıklamasına göre Astra; vergi hazırlama, oyun geliştirme, mimari görselleştirme, hukuki belgelerin biçimlendirilmesi ve ev arama gibi görevleri gerçekleştirebiliyordu.

OpenAI’ın paylaştığı örneklerde, bir insanın yaklaşık 30 dakikada tamamladığı kedi bakıcısı araştırmasının Astra tarafından 5 dakika 27 saniyede; insanın yaklaşık 5 saatte yaptığı iş arama görevinin ise 2 dakika 51 saniyede tamamlandığı belirtilmişti.