Yapay Zeka Model Güvenliği ve Veri Bozulması Dosyası
13 haber · 22 kaynak · 22 Haziran 2026 tarihinden beri · son gelişme 19 Eylül 2026
Researchers demonstrate that AI agents from Anthropic, OpenAI and Google can be tricked by manipulated data sets in a study posted on arXiv on July 12.
Gelişmeler
- Yapay Zeka Eğitiminde 'Hile' Krizi: Model Eğitme İşini Botlar Yapıyor
Yapay zeka modellerini eğitmek için kiralanan düşük ücretli işçilerin, görevlerini ChatGPT gibi botlarla tamamladığı ortaya çıktı. Bu durum, modellerin kendi üretimleriyle beslendiği 'model çökmesi' r
- Yapay Zeka Ajanları 'Veri Zehirlemesi' ile Manipüle Edilebiliyor
Yeni bir araştırma, kötü niyetli kişilerin manipüle edilmiş veri setleri yükleyerek AI ajanlarını yanlış sonuçlara yönlendirebildiğini ortaya koydu. Bu durum, bilimsel dürüstlüğü ve veri analizlerinin
- Yapay Zeka Kod Asistanlarında Yeni Güvenlik Tehdidi: HalluSquatting
HalluSquatting yöntemi, yapay zeka modellerinin hatalı bilgi üretme eğilimini kullanarak cihazları botnet ağlarına dönüştürebiliyor; GitHub Copilot ve Cursor gibi popüler araçlar risk altında.
- Yapay Zeka Güvenlik Kısıtlamaları Siber Savunma Çalışmalarını Engelliyor
Yapay zeka devlerinin kötü niyetli saldırıları önlemek için kurduğu 'koruma bariyerleri' (guardrails), meşru siber güvenlik araştırmacılarının ve savunmacıların sistem açıklarını tespit etme süreçleri