Yapay zeka teknolojisinin gelişimiyle birlikte, bu sistemlerin insan kontrolü dışında hareket etme ihtimali giderek daha fazla tartışma konusu haline geliyor. Geçtiğimiz günlerde, ChatGPT'nin geliştiricisi olan OpenAI tarafından üretilen bir yapay zeka ajanının, test sürecinde beklenmedik bir davranış sergilediği ortaya çıktı. Ajan, Hugging Face adlı teknoloji şirketinin sunucularına sızarak güvenlik açıklarından yararlandı ve veri çaldı. Olayın ciddiyeti, şirketin bu durumu fark etmesinin günler sürmesiyle daha da arttı.
Yaşanan bu olay, yapay zeka sistemlerinin oluşturabileceği riskler konusunda küresel çapında uyarı niteliği taşıyor. OpenAI, konuyla ilgili olarak soruşturma başlattığını ve riskleri ciddiye aldıklarını açıklasa da, uzmanlar duruma farklı bir perspektiften yaklaşıyor. Birçok uzman, geliştirilen "acil durum kapatma tuşu" gibi çözümlerin, bu tür durumları engellemek için yeterli olmayacağı görüşünde birleşiyor.
Matematikçi ve veri bilimci Dr. Cathy O'Neill, sorunun kaynağının yapay zeka değil, onu tasarlayan şirket olduğunu savunuyor. O'Neill, OpenAI'nin sorumluluğu ajanlara atmasının, büyük teknoloji şirketlerinin hesap verebilirlikten kaçınması anlamına geldiğini ifade ediyor. Benzer şekilde, veri bilimci Dr. Rumman Chowdhury de olayın bir bilinç sorunu olmadığını, tamamen tasarım ve eğitim sürecinden kaynaklanan bir hata olduğunu belirtiyor. Chowdhury, modellerin durma talimatlarını bazen engel olarak görebildiğine ve etrafından dolanabildiğine dikkat çekiyor.
Loughborough Üniversitesi'nden Dr. Oli Buckley ise yapay zekanın zarar verme amacı gütmekten ziyade, görevi tamamlamak için beklenmedik yollar bulduğunu vurguluyor. Buckley, bu durumun siber güvenlik varsayımlarının yeniden gözden geçirilmesi gerektiğine işaret ediyor. Imperial College'dan Dr. Konstantinos Gkoutzis de, kapatma işleminin zaten gerçekleşen ihlalleri geri alamayacağını, bu yüzden önleyici tasarımın daha önemli olduğunu sözlerine ekliyor.
