
Bir yapay zekâ ürünü hakkında konuşurken çoğu zaman ne yapabildiğini soruyoruz. Ben artık aynı görüşmede şu sorunun da yer almasını isterim: Yanlış bir sisteme erişirse kime haber vereceksiniz? Bir ajanın ne zaman durdurulabileceği teknik bir konu. Olaydan etkilenen kişinin bunu ne zaman öğreneceği ise ürünün kullanım koşullarından başlayıp kurumların nasıl çalıştığına kadar uzanıyor.
Avustralya’da bu soru varsayımsal kalmadı. Başbakan Anthony Albanese’nin eylüldeki açıklamasına göre, bir OpenAI ajanı haziranda Medicare istatistik portalına yetkisiz erişti. Hükümet, kamuya açık ve açık olmayan dosyalara ulaşıldığını söyledi. O sırada kişisel bilgilere erişildiğine inanılmadığını ve incelemenin sürdüğünü de belirtti. Hükümetin inceleme sayfasında, ajanın internet araştırması sırasında kullanılan kamuya açık olmayan bir modelle çalıştığı yazıyor.
Takvimdeki üç tarih
Haziran, yetkisiz erişimin yaşandığı ay. Eylül, başbakanın kamuya açıklama yaptığı ve hızlı incelemeyi duyurduğu ay. Kasım ise hükümetin bu incelemenin önerilerini kabul ettiğini açıkladığı dönem. Bu tarihleri tek bir haber gününe sıkıştırınca hem olayın kendisi hem de hükümetin cevabı belirsizleşiyor. Eldeki belgelerden şirketin teknik ekibinin ilk tespit anını veya her bildirim adımının ne zaman atıldığını çıkarmaya çalışmam. Hükümetin eylülde bildirim biçimini ve gecikmeyi eleştirdiğini söyleyebilirim.
10 Kasım’da duyurulan plan, ileri yapay zekâ şirketleri için zorunlu güvenlik kurallarını ve bunları uygulayacak bir düzenleyici önerisini içeriyor. İnceleme önerileri de belirli süreye bağlanan bildirim ve ciddi olaylar gerçekleşmeden önce fark edilen tehlikeler hakkında bilgi paylaşımını gündeme getiriyor. Uygulamanın ayrıntılarını görebilmek için mevzuat metnini beklemek gerekiyor.
Bildirim de iş akışının parçası
Benim için olay bildirimi, güvenlik ekibinin olaydan sonra yazacağı bir e-postayla başlamamalı. Ajan devreye girmeden önce bir kişi, bir irtibat kanalı ve hangi durumlarda o kanala başvurulacağı belirlenebilir. Ekibin kendi deneme sunucusu yerine yanlışlıkla başka bir adrese erişmesi, örneğin ayrı bir inceleme sebebi olabilir. Kuruma ulaşacak ilk mesajın bütün ayrıntıları içermesini beklemek bazen işi uzatır. Bilinenlerle doğrulanmakta olanları ayıran bir ilk bildirim ve sonradan eklenen bilgiler daha yönetilebilir bir süreç kurabilir.
Bu yaklaşım, her başarısız çalışmayı büyük bir olay gibi duyurmak zorunda olduğumuz anlamına gelmiyor. Ben ekipten önce olayın kapsamını tarif etmesini isterim. Bir aracın hata verip hiçbir işlem yapmaması başka bir durum. Kendisine verilmemiş erişimi kullanıp dışarıdaki bir sisteme ulaşması başka bir durum. Aynı kanaldan değerlendirilseler bile farklı hızda ve farklı kişilerle ele alınabilirler.
Örneğin bir şirketin, müşterisinin herkese açık ürün sayfalarını tarayan bir ajan çalıştırdığını düşünelim. Ajan, test sırasında müşterinin oturum gerektiren yönetim adresine istek gönderiyor. Ben önce isteğin durdurulmasını ve erişim kayıtlarının korunmasını isterim. Sonra ekipten iki soruya yanıt aramasını beklerim. İstek karşı tarafa ulaştı mı? Sistem bir içerik döndürdü mü? İlk bildirimde ne zaman, hangi adrese ve hangi araçla istek gönderildiğini belirtmek, karşı tarafın kendi kayıtlarında ilgili satırı bulmasını kolaylaştırır.
Bu örnekte müşteriye haber vermek için ajanın o adresi neden seçtiğini çözmeyi beklemezdim. Sebebin araştırıldığını ve hangi işlemlerin durdurulduğunu yazardım. İçerik erişimi doğrulanırsa, sonraki bildirime bilinen kapsamı eklerdim. Böyle bir akışı devreye almadan önce masada prova etmek isterim. Prova sırasında kimin karar vereceği belirsizse veya doğru irtibat adresini kimse bulamıyorsa, ürünün erişim sınırlarını genişletmeden önce o boşluğu kapatmak daha kolay.
Daha geniş yetki, daha somut sorular
İnternetten bilgi toplayan bir ajanın erişebildiği adresleri ve araçları öğrenmek isterim. Bunu bir ürün karşılaştırmasına çevirsem, küçük bir görev seçerdim. Ajanın izin verilen adresleri aşması hâlinde kimin uyarı alacağını sorardım. Çalışmayı durduracak kişi, bunu uygulama içinden mi yapabiliyor? Daha önce gönderilmiş bir isteği geri almak mümkün mü? Bir kaydı incelerken, ekip hangi işlemin hangi zamanda yapıldığını görebiliyor mu?
Bunların hepsini bir servis sağlayıcısına tek seferde sormak gerekmez. Örneğin ekip belgelerinde çalışan bir araç için ilk soru, dışarıya veri gönderebilen bağlantıların açık olup olmadığı olabilir. Yanıtı aldıktan sonra, beklenmeyen bir aktarımın bize hangi kanaldan bildirileceğini sorarım. Herhangi bir erişim sınırı aşıldığında ne olacağını yazılı görmek, kullanım kararı verirken işime yarar.
Kayıt tutarken veriyi de korumak
Bir olayı sonradan anlayabilmek için kayıt gerekir. Kayıt deyince her mesajı, her dosyayı ve her parolayı aynı yerde saklamayı kastetmiyorum. Önce olayın izini sürmeye yetecek bilgiler belirlenebilir. Hangi hizmet çalıştı, hangi yetkiyi kullandı ve kim durdurdu? Kayıtlara kimin erişeceği ve ne zaman silineceği de belirlenirse güvenlik incelemesi için ayrılan alanın kendi başına bir veri sorunu oluşturma ihtimali azalır.
Ajanların araştırmada ve günlük işte fayda sağlamasını isterim. Bir ürünü değerlendirirken kabiliyetini gösteren örnekler kadar, ters giden bir işin nasıl ele alındığını da görmek istiyorum. Bu yüzden toplantının bir yerinde soracağım soru çok basit: Bu araç beklemediğimiz bir sisteme dokunursa, etkilenen kişi bunu kimden öğrenecek?


