Gemini’nin test sırasında üç siteye eriştiği bildirildi

Google’ın yapay zeka modeli Gemini’nin, siber güvenlik yeteneklerinin değerlendirildiği bir test sırasında internete erişerek üç şirketin internet sitesine yönelik girişimlerde bulunduğu bildirildi.

Bağımsız siber güvenlik değerlendirme şirketi Irregular tarafından yürütülen testte yaşanan olayın, Google’ın yapay zeka sistemlerinin bağımsız biçimde bu tür bir eylem gerçekleştirdiğine ilişkin bilinen ilk örnek olduğu belirtildi.

Google: Kullanıcı bilgilerini tahmin etti

Google’da güvenlik mühendisliğinden sorumlu Başkan Yardımcısı Heather Adkins, standart bir test değerlendirmesi sırasında Gemini’nin internetteki herkese açık bilgileri bulduğunu ve test kapsamına dahil olduğunu düşündüğü üç internet sitesine erişmek için kullanıcı bilgilerini tahmin ettiğini söyledi.

“Üç kurumun da olaydan haberdar olmasını sağladık ve eğitim ortağımızla birlikte test süreçlerinde yaptıkları değişiklikler üzerinde çalıştık. Bu olaylar, güçlü yapay zeka modellerini sorumlu davranacak şekilde eğitmenin önemini ortaya koyuyor.”

Irregular sözcüsü ise olayın diğer yapay zeka laboratuvarlarını etkileyen sorunla aynı olduğunu, ilgili tüm laboratuvarların temmuz sonunda bilgilendirildiğini belirtti.

“Bizim tarafımızdaki bilinen tüm sorunlar haftalar önce giderildi ve çözüme kavuşturuldu.”

Irregular ile bağlantılı benzer olayları Meta, Anthropic ve OpenAI da açıklamıştı. Meta, ağustos ayında yaşanan olayın bir güvenlik sınırının aşılmasını veya karmaşık bir siber saldırıyı içermediğini bildirmişti.

Olaylar, yapay zeka ajanlarının daha fazla özerklik kazanması ile internete ve bilgisayar sistemlerine erişiminin artması karşısında gerekli güvenlik önlemlerine ilişkin tartışmaları gündeme getirdi.