Yapay Zeka Güvenlik ve Kontrol Dosyası
29 haber · 60 kaynak · 26 Mayıs 2026 tarihinden beri · son gelişme 19 Eylül 2026
Anthropic founders Jack Clark and Marina Favaro warn against recursive self-improvement in AI and suggest slowing down development to ensure human control.
Gelişmeler
- Yapay Zekada 'Kısıtlı Erişim' Dönemi: Anthropic ve OpenAI'dan Güvenlik Hamlesi
Anthropic, tüm işletim sistemlerindeki açıkları bulabilen 'Mythos' modelini tehlikeli bularak halka kapatırken; OpenAI benzer bir sınırlı erişim stratejisini GPT-5.4-Cyber ile uygulayarak AI dünyasınd
- Anthropic'ten Kritik Uyarı: Yapay Zekanın Kendi Kendini Geliştirdiği 'Recursive' Dönem
AI devi Anthropic, sistemlerin insan müdahalesizce yeni modeller tasarlayabildiği 'özyinelemeli kendini geliştirme' riskine karşı uyardı; teknoloji hızının toplumsal adaptasyonu aşmaması için geliştir
- Anthropic'ten 'Özyinelemeli Kendini Geliştirme' Uyarısı ve Kontrol Riski
Yapay zeka devi Anthropic, Claude modellerinin kendi kodlarını yazma yetkinliğinin hızla artmasıyla sistemlerin insan kontrolünden çıkabileceği ve kendi haleflerini tasarlayabileceği konusunda kritik
- Anthropic CEO'su Amodei'den Yapay Zeka İçin 'Havacılık Modeli' Düzenleme Çağrısı
Anthropic CEO'su Dario Amodei, yapay zekanın hızına yetişemeyen yasama süreçlerine karşı siber ve biyolojik riskleri önleyecek, bağlayıcı ve denetim odaklı yeni bir politika çerçevesi önerdi.