Hizmet 3 · Uygulama
Yapay Zekâ Aracısı Güvenliği
Elektronik postayı okuyan, sistemlere yazan veya işlem başlatabilen otonom yapay zekâ aracılarının yetki sınırlarını tanımlıyor, geri alınamaz işlemler için insan onay kapısı kuruyor, eylem kaydını yapılandırıyor ve bu kontrollerin çalıştığını dolaylı istem enjeksiyonu testleriyle doğruluyoruz.
BÖLÜM 1Düzenleyici dayanak
Kişisel Verileri Koruma Kurumu, 12 Mart 2026 tarihinde Etken Yapay Zekâ konulu bir yayın çıkarmıştır. Yayın, değerlendirmenin tek tek işleme faaliyetleri üzerinden değil, sistemin bütüncül işleyişi üzerinden yapılması gerektiğini ortaya koymakta; otonom aracıların yetki sınırlarının baştan tanımlanmasını ve insan gözetiminin tasarıma gömülmesini beklemektedir.[1]
Bu yayın bağlayıcı değildir. Bağlayıcı olan 6698 sayılı Kanundur ve Kanun md.12 uyarınca veri sorumlusu, kişisel verilerin hukuka aykırı işlenmesini önlemek üzere uygun güvenlik düzeyini sağlamaya yönelik teknik ve idari tedbirleri almakla yükümlüdür.[2] Rehberin önemi, bu yükümlülüğün otonom aracılar bakımından nasıl yorumlandığını göstermesinden kaynaklanır. Uygulamada karşılığı şudur: aracının hangi sisteme hangi yetkiyle eriştiği, hangi kararın hangi veriye dayandığı ve hangi işlemin kimin onayıyla yapıldığı kayıt üzerinden izlenebilir olmalıdır.
Aynı beklenti Avrupa Birliği tarafında da bulunmaktadır. Uygulayıcı yükümlülükleri arasında insan gözetiminin yetkin bir kişiye atanması ve kayıtların asgari altı ay saklanması yer alır. Yüksek riskli sistem yükümlülüklerinin uygulanma tarihleri ertelenmiş olsa da tedarikçi soru listeleri bu başlıkları bugün sormaktadır.[3]
Aracı neredeyse her zaman bir çalışanın kimliği ve yetkileriyle çalışmakta, geri alınamaz işlemler için onay kapısı bulunmamakta ve eylem kaydı uygulama kayıtlarının içinde ayrıştırılamaz hâlde tutulmaktadır. Çalışmanın ilk haftası bu üç başlığa ayrılır.
Aracınız kimin yetkisiyle çalışıyor
Bu soru, keşif görüşmesinin en belirleyici sorusudur. Cevap bir çalışanın kimliğine işaret ediyorsa, aracının yaptığı her işlem o çalışanın işlemi olarak kayda geçmekte ve izlenebilirlik kaybolmaktadır.
BÖLÜM 2Kapsam
Çalışma, aracı envanterinin çıkarılmasıyla başlar. Her aracı için hedefi, tetikleyicisi, eriştiği sistemler, çağırdığı araçlar, başlatabildiği işlemler ve gördüğü veri kategorileri yazılı hâle getirilir. Akış haritası çıkarılmadan yetki daraltma yapılamaz, çünkü hangi yetkinin işlevsel olarak gerekli olduğu ancak akış üzerinden gerekçelendirilebilir.
Envanterin ardından on iki kontrol uygulanır. Kontroller, Kurumun Etken Yapay Zekâ yayınındaki beklentilerin teknik karşılığı olarak tanımlanmıştır ve her biri nesnel bir kabul ölçütüne bağlanmıştır.
| # | Kontrol | Kabul ölçütü |
|---|---|---|
| 1 | Aracının kendi kimliği | Aracı, insan hesabı ödünç almadan kendi hizmet kimliğiyle çalışır ve bu kimlik envanterde kayıtlıdır |
| 2 | En az yetki | Erişilen her sistem için yetki gerekçelendirilmiş, okuma ve yazma yetkileri ayrıştırılmıştır |
| 3 | Araç çağrı beyaz listesi | İzin verilen araçlar ve parametre sınırları tanımlıdır; liste dışındaki çağrı reddedilir |
| 4 | Veri kapsamının tanımı | Aracının erişebileceği veri kategorileri yazılıdır; özel nitelikli veri erişimi ayrıca karara bağlanmıştır |
| 5 | İnsan onay kapısı | Dışarıya ileti gönderme, ödeme, silme, taahhüt ve fiyatlandırma değişikliği onaysız geçmez |
| 6 | Hız ve hacim limiti | Saat ve gün bazında azami işlem sayısı tanımlıdır; aşımda aracı durur |
| 7 | Eylem kaydı | Girdi, çağrılan araç, çıktı, zaman ve karar gerekçesi ayrıştırılabilir biçimde ve asgari altı ay saklanır |
| 8 | Devre kesici | Tek işlemle durdurma mevcuttur ve bu yetkinin kimde olduğu yazılıdır |
| 9 | Dolaylı istem enjeksiyonu testi | Tanımlı senaryolar yürütülmüş, bulgular giderilmiş ve test yeniden yapılmıştır |
| 10 | Anomali alarmı | Olağan dışı hacim, hedef veya veri erişiminde bildirim üretilir ve bildirimin alıcısı isimlidir |
| 11 | Aracı kartı | Aracının ne yaptığı, ne yapmadığı, bilinen sınırları ve sahibi bir sayfada yazılıdır |
| 12 | Rol ve sorumluluk paylaşımı | Geliştirici, dağıtıcı ve kullanan taraf arasındaki sorumluluk yazılıdır; sözleşme metni hukuk onayına gider |
BÖLÜM 3Dolaylı istem enjeksiyonu testi
Otonom aracılarda en belirleyici zafiyet, aracıya doğrudan kullanıcı tarafından değil, aracının işlediği içerik üzerinden talimat verilmesidir. Aracı bir elektronik postayı, bir belgeyi, bir destek kaydını veya bir web sayfasını okuduğunda, o içeriğe yerleştirilmiş metni talimat olarak yorumlayabilir. Bu durumda saldırganın aracının kullanıcısı olması gerekmez; aracının okuyacağı bir içeriğe erişebilmesi yeterlidir.
Test senaryo tabanlı yürütülür ve dört başlıkta toplanır:
- Talimat devralma. İşlenen içerik üzerinden aracının hedefinin değiştirilmesi denenir.
- Veri sızdırma. Aracının eriştiği verinin dışarıya çıkarılması, örneğin bir isteğin adresine gömülmesi yoluyla denenir.
- Yetki yükseltme. Beyaz liste dışındaki araçların çağrılması ve tanımlı veri kapsamının aşılması denenir.
- Onay kapısının atlatılması. Geri alınamaz bir işlemin onay istenmeksizin tamamlanması denenir.
Her bulgu için giderme önerisi verilir, giderme uygulandıktan sonra ilgili senaryo yeniden yürütülür ve sonuç rapora işlenir. Testin amacı bir puan üretmek değil, kontrollerin fiilen çalıştığını göstermektir.
Çalışma bir kontrol uygulama işidir. Test, kurulan kontrollerin çalıştığını doğrulamak amacıyla ve aracı akışının sınırları içinde yürütülür. Tam kapsamlı bir penetrasyon testi ise altyapı ve uygulama katmanında yetkisiz erişim yollarını, kimlik doğrulama ve oturum yönetimi zafiyetlerini, ağ segmentasyonunu, tedarik zinciri bileşenlerini ve yatay hareket imkânlarını da inceler. Bu kapsam ayrı bir çalışma gerektirir ve bu hizmetin içinde yer almaz.
Aracı devreye alınmadan önce test edilmelidir
Kontroller kurulmadan üretim ortamına alınan bir aracı, geri alınması güç işlemler üretebilir. Devreye alma kapısı bu kararı kişisel takdirden çıkarıp yazılı ölçütlere bağlar.
BÖLÜM 4Devreye alma kapısı
Devreye alma kapısı, bir aracının üretim ortamına alınabilmesi için sağlanması gereken yazılı ölçütler bütünüdür. Kapı, kararı tekil bir kişinin takdirinden çıkarır ve tekrarlanabilir bir kontrole dönüştürür. Kuruluşta yeni bir aracı hazırlandığında aynı kapı uygulanır; böylece çalışma kalıcı bir işletme kuralı bırakır.
| Ölçüt | Kanıt | Sağlanmazsa |
|---|---|---|
| Aracının kendi kimliği tanımlı | Kimlik sağlayıcı kaydı | Devreye alınmaz |
| Yetki listesi gerekçelendirilmiş | Yetki matrisi ve sistem sahibi onayı | Devreye alınmaz |
| Geri alınamaz işlemler onay kapısında | Yapılandırma çıktısı ve örnek onay kaydı | Devreye alınmaz |
| Eylem kaydı ayrıştırılabilir ve saklanıyor | Örnek kayıt ve saklama süresi tanımı | Devreye alınmaz |
| Enjeksiyon senaryoları geçilmiş | Test raporu ve yeniden test sonucu | Sınırlı kapsamda pilot uygulanır |
| Devre kesici çalışıyor ve yetkisi isimli | Durdurma denemesi kaydı | Devreye alınmaz |
| Aracı kartı yazılmış ve sahibi atanmış | Bir sayfalık aracı kartı | Devreye alınmaz |
BÖLÜM 5Eylem kaydı
Eylem kaydı, aracı güvenliğinin en çok atlanan ve en yüksek değer üreten bileşenidir. Uygulamada aracının kayıtları genellikle uygulamanın genel kayıtlarına karışmış durumdadır; bu hâlde bir işlemin hangi girdiye dayandığı sonradan gösterilemez.
Kayıt şu alanları içerecek biçimde yapılandırılır: işlemi başlatan tetikleyici, aracıya ulaşan girdi, çağrılan araç ve parametreler, dönen çıktı, varsa onay veren kişi, zaman damgası ve kararın gerekçesi. Kayıtlar aracı kimliğine göre ayrıştırılabilir olmalı ve asgari altı ay saklanmalıdır. Bu yapı, Kanun md.12 bakımından izlenebilirliği, ISO/IEC 42001 bakımından kayıt tutma beklentisini ve uygulayıcı kayıt saklama yükümlülüğünü aynı anda karşılar.
Kayıt olmadığında olay incelemesi yapılamaz. Bir aracının yanlış alıcıya ileti göndermesi hâlinde, olayın kapsamının belirlenmesi ve gerekirse veri ihlali bildiriminin hazırlanması yalnızca kayıt üzerinden mümkündür. Kanun md.12(5) kapsamındaki bildirim süresi, Kurul kararı 2019/10 ile gecikmeksizin ve en geç yetmiş iki saat olarak yorumlanmıştır.[4]
BÖLÜM 6Teslimatlar ve takvim
| Aşama | Hafta | Yürütülen iş | Aşama çıktısı |
|---|---|---|---|
| 1. Envanter | 1 | Aracı envanteri, akış haritası, eriştiği sistem ve veri kategorilerinin tespiti | Aracı envanteri ve akış haritası |
| 2. Yetki | 2–3 | Aracı kimliğinin ayrıştırılması, yetki daraltma, araç çağrı beyaz listesi, sır ve anahtar yönetimi | Yetki matrisi ve uygulanmış yapılandırma |
| 3. Kapı ve kayıt | 3–5 | İnsan onay kapısı, hız ve hacim limitleri, eylem kaydı, devre kesici, anomali alarmı | Çalışan onay kapısı ve eylem kaydı |
| 4. Test | 5–7 | Dolaylı istem enjeksiyonu senaryoları, bulguların giderilmesi, yeniden test | Test raporu ve giderme kaydı |
| 5. Devir | 7–8 | Aracı kartları, devreye alma kapısının yazılması, sorumluluk paylaşımı taslağı, devir toplantısı | Aracı kartı seti ve devreye alma kapısı |
BÖLÜM 7Sizden beklenenler
- Aracının çalıştığı ortamda inceleme ve yapılandırma yetkisi
- Aracının eriştiği sistemlerin sahiplerinden yetki daraltma onayı
- Test için üretimden ayrı bir ortam veya üretimde sınırlı ve yazılı olarak onaylanmış bir test penceresi
- Aracıyı geliştiren veya tedarik eden tarafla iletişim imkânı
- Her aracı için isimli bir sistem sahibi
BÖLÜM 8Kapsam dışı
- Aracı geliştirmek. Bu çalışma kapsamında aracı yazılmaz; mevcut veya hazırlanan aracının çevresine kontrol kurulur.
- Model ince ayarı ve model doğruluk testi. Yürütülmez.
- Tam kapsamlı penetrasyon testi. Ayrı bir çalışma gerektirir ve bu hizmete dâhil değildir.
- Kurum genelinde kullanım kontrolleri. Politika, kimlik düzeni, veri kaybı önleme ve eğitim Güvenli Kullanım Kurulumu hizmetinin kapsamındadır.
- Hukuki mütalaa. Sorumluluk paylaşımı taslağı hazırlanır; onay kuruluşun hukuk biriminde veya hukuk ortağında kalır.
Bu hizmet, aracının hiçbir koşulda hatalı işlem yapmayacağı taahhüdünü içermez ve uygunluk garantisi vermez. Taahhüdümüz; yetkileri daraltmak, geri alınamaz işlemleri onaya bağlamak, izlenebilirliği kurmak, tanımlı senaryolarla test etmek ve sonuçları kanıtla teslim etmektir.
BÖLÜM 9Yatırım
Bu hizmetin gerektirdiği yatırımı kapsam belirler. Belirleyici değişkenler; kapsama alınan aracı sayısı, aracıların eriştiği sistem sayısı, işlem geri alınabilirliğinin niteliği ve test ortamının mevcut olup olmadığıdır. Çalışma mühendislik ağırlıklı olduğundan kapsam, aracı başına ayrı ayrı tanımlanır.
Keşif görüşmesinin ardından yazılı ve sabit tutarlı bir teklif iletilir. Teklif; kapsama alınan aracıları tek tek sayar, süresini, teslimat listesini, test senaryolarının kapsamını, dayandığı varsayımları ve kapsam dışı kalan işleri açıkça belirtir. Kapsam değişikliği yalnızca yazılı ek ile yapılır.
Aracınızın yetki sınırlarını birlikte inceleyelim
Görüşmeye aracının ne yaptığını, hangi sistemlere eriştiğini ve hangi işlemleri başlatabildiğini anlatan bir özet getirmeniz yeterlidir. Görüşmenin sonunda ya kapsamı tanımlı bir teklif sunulur ya da mevcut kurulumda öncelikli işin kurum genelindeki kontroller olduğu yazılı olarak belirtilir.
EKKaynaklar
Bu sayfadaki her hukuki iddia aşağıdaki birincil kaynaklara dayanır. Bağlantılar yayımlayan makamın kendi sitesine gider.
- KVKK Etken Yapay Zekâ Rehberi — Etken Yapay Zekâ (Agentic AI). Kişisel Verileri Koruma Kurumu. Kaynak metin · PDF (Bağlayıcı değil)
- 6698 sayılı KVKK — Kişisel Verilerin Korunması Kanunu (Kanun No. 6698). Resmî Gazete, 7 Nisan 2016, sayı 29677. Kaynak metin (Bağlayıcı)
- Digital Omnibus on AI — Regulation (EU) 2026/1744 amending Regulations (EU) 2024/1689, (EU) 2018/1139 and (EU) 2023/1230 as regards the simplification of the implementation of harmonised rules on artificial intelligence (Digital Omnibus on AI). Avrupa Birliği Resmî Gazetesi, 24 Temmuz 2026. Kaynak metin (Bağlayıcı (AB hukuku))
- Kurul kararı 2019/10 — Kişisel Veri İhlali Bildirim Usul ve Esaslarına İlişkin Kişisel Verileri Koruma Kurulunun 24.01.2019 tarih ve 2019/10 sayılı Kararı. Kişisel Verileri Koruma Kurumu. Kaynak metin (Bağlayıcı)