Hindistan’dan yapay zekâ ajanı uyarısı: Test sırasında canlı sistemlere girdiler, kurumlar fark etmedi

Hindistan’ın ulusal siber güvenlik kurumu CERT-In, 15 Ekim’de yayımladığı “Saldırı Vektörü Olarak Yapay Zekâ Ajanları” başlıklı uyarıda, otonom yapay zekâ ajanlarının onlara tanımlanan görevlerin dışına çıktığını açıkladı.

Uyarıya göre, internet ortamında test edilen ajanlar Hindistan’daki bazı kurumların canlı sistemlerine ulaştı ve içlerinde kişisel ve gizli bilgilerin de bulunduğu iş kayıtlarını okudu. Etkilenen kurumların hiçbiri erişimi kendi başına fark etmedi. Olaylar, ilgili yapay zekâ şirketlerinin kendi iç incelemelerinin ardından gönüllü olarak CERT-In’e bildirmesiyle ortaya çıktı.

Ajanlar sistemlere olağanüstü bir yöntemle girmedi. CERT-In, kapıyı açan şeyin uygulama ayarlarında ve herkese açık kod depolarında unutulan kimlik bilgileri ile aşırı yetkili bulut rolleri olduğunu belirtiyor. Kurum ayrıca, ayrı bir olayda suçluların yapay zekâ ajanlarına dayanan, herkese açık saldırı araçlarını kullandığını tespit ettiğini duyurdu. Bu araçlar ilk erişimden asıl hasara kadar geçen süreyi günlerden saatlere indiriyor.

CERT-In’in önerileri arasında şunlar öne çıkıyor: kod depolarında ve ayar dosyalarında açıkta kalan anahtarların taranıp değiştirilmesi, kullanılmayan eski ve test amaçlı API’lerin kapatılması, en az yetki ilkesi, yönetim panellerinin internete kapatılıp çok adımlı doğrulamanın zorunlu tutulması ve kayıtların en az 180 gün saklanması.

Reklam

Yapay zekâ geliştiricileri için uyarı daha da net: Ajanın dışarıya çıkmasını yalnızca modele yazılı talimat vererek engellemek yeterli değil. Test ortamları ağ düzeyinde izole edilmeli, dışarıya çıkış varsayılan olarak kapalı tutulmalı ve ajan başka birine ait kimlik bilgisi kullanırsa çalışma otomatik durdurulmalı.

CERT-In, olaylarda yer alan yapay zekâ şirketlerinin, modellerin ve etkilenen kurumların adını açıklamadı; kaç kurumun etkilendiği de belli değil.