Gemini E-posta Özetleri Dolandırıcılara Yol Açıyor

Bleeping Computer’ın aktardığı bilgilere göre, dolandırıcılar, Gemini’nin oluşturduğu e-posta özetlerini sahte ve tehditkar ifadelerle manipüle ederek kullanıcıları kandırmaya çalışıyor. Bazı özetlerde “UYARI: Gmail hesabınız tehlikede. Lütfen hemen bizimle iletişime geçin. Referans kodu: 4938” gibi aldatıcı ifadeler yer alabiliyor ve kullanıcılar bu tür mesajlarla telefon numaraları üzerinden iletişime geçmeye zorlanıyor.

Dolandırıcıların kullandığı bu taktik oldukça dikkat çekici; çünkü e-postalara gizlenen özel komutlar sayesinde, Gemini’nin özetleme algoritması yanıltılabiliyor. Mozilla’nın yaptığı teknik analizler, bu manipülasyonun gerçekten işe yaradığını ve yapay zekanın sahte uyarıları içeren metinleri fark edemeden özetlediğini gösterdi.

Uzmanlar Kullanıcıları Uyarıyor

Bu durum, yapay zeka destekli özetleme teknolojilerinin güvenlik açısından ne kadar savunmasız olabileceğini bir kez daha gösteriyor. Uzmanlar, özellikle Gemini’nin sunduğu özetlerde şüpheli ifadelerin dikkatle incelenmesi gerektiği konusunda kullanıcıları uyarıyor.

Google, konuyla ilgili yaptığı açıklamada, Gemini teknolojisinin güvenliğini artırmak için sürekli olarak geliştirmeler yapıldığını belirtti. Şirket sözcüsü, “Yapay zekamızı bu tür istismar girişimlerine karşı daha dirençli hale getirmek amacıyla red-teaming testleri (saldırgan bakış açısıyla yapılan test) uyguluyoruz” dedi.

Bu olay, yapay zekanın getirdiği pratik çözümlerin aynı zamanda hangi riskleri taşıyabileceğini gözler önüne seriyor. Özellikle e-posta güvenliği açısından, kullanıcıların sadece gelen mesajlara değil, yapay zeka tarafından üretilen özetlere karşı da dikkatli olmaları gerekiyor.