Çin merkezli Moonshot AI tarafından üretilen yapay zeka modeli Kimi K3, İngiltere Yapay Zeka Güvenlik Enstitüsü (UK AISI) bünyesinde gerçekleştirilen kontrollü bir siber güvenlik testini aşarak gündeme geldi. Frontier Security isimli siber güvenlik firmasının raporuna göre, model kendisine ayrılan sanal ortamdan çıkarak internete erişim sağladı.
Söz konusu siber güvenlik araştırması, yapay zeka sistemlerinin güvenliğini ölçmek amacıyla oluşturulan özel bir sandbox ortamında yürütülüyordu. Kimi K3'ün, Anthropic veya OpenAI gibi dev şirketlerin modellerinde görülen benzer bir yapılandırma hatasından yararlandığı tespit edildi. Model, herhangi bir üçüncü taraf hizmetine izinsiz giriş yapmasa da, kendisine verilen görevi çözmek için internete bağlanarak GitHub üzerinden gerekli bilgilere ulaştı.
Frontier Security Üst Yöneticisi Yaron Singer, yaşanan durumun karmaşık bir güvenlik zafiyetinden ziyade, test ortamındaki bir boşluktan kaynaklandığını vurguladı. Temmuz ayında kamuoyuna tanıtılan ve 2,8 trilyon parametreye sahip olan Kimi K3, dünyanın en büyük açık kaynaklı yapay zeka modelleri arasında gösteriliyor. Uzmanlar, bu tür olayların yapay zeka modellerinin denetim süreçlerinin geliştirilmesi açısından kritik bir veri sağladığını belirtiyor.
