Yapay zeka asistanlarına yönelik saldırılar artmaya devam ediyor. Bugün hedefte OpenAI’nin Deep Research adlı AI ajanı vardı. Güvenlik araştırmacıları, kullanıcı hiçbir şey yapmasa bile Gmail gelen kutusundaki gizli bilgileri, saldırganın kontrolündeki bir web sitesine gönderebilen bir yöntem geliştirdi.
Deep Research, OpenAI tarafından bu yıl tanıtılan ChatGPT entegreli bir AI ajanı. Kullanıcının e-posta, belgeler ve diğer dijital kaynaklarını kullanarak internette karmaşık, çok adımlı araştırmalar yapabiliyor. Web sitelerini özerk şekilde tarayabiliyor ve bağlantılara tıklayabiliyor. OpenAI’ye göre Deep Research, bir insanın saatler süren işini on dakikada tamamlayabiliyor.
Ancak büyük dil modellerinin kullanıcı gözetimi olmadan web sitelerini taraması ciddi riskler doğuruyor. Güvenlik firması Radware, Deep Research’e Gmail erişimi verildiğinde yalnızca basit bir prompt saldırısıyla gizli bilgilerin sızdırılabileceğini gösterdi. Araştırmacılar bu saldırıya “ShadowLeak” adını verdi. ShadowLeak, AI asistanlarının e-posta erişimi ve otonom web tarama özelliklerini silah olarak kullanıyor ve kullanıcı adına gerçekleştirilen sessiz veri kaybıyla sonuçlanıyor.
Prompt saldırıları, dolaylı talimatlar aracılığıyla çalışıyor ve kullanıcıyı memnun etme eğilimi nedeniyle LLM’ler istenmeyen eylemleri gerçekleştirebiliyor. OpenAI bazı önlemler alsa da, araştırmacılar Deep Research’ün tarayıcı üzerinden bağlantılar açarak bilgileri dışarı sızdırmayı başardığını ortaya koydu.
Uzmanlar, kullanıcıların AI ajanlarını Gmail ve diğer özel kaynaklarla entegre etmeden önce riskleri göz önünde bulundurması gerektiğini vurguluyor. OpenAI ise güvenlik önlemlerini sürekli iyileştirdiğini açıklıyor.
