İNSAN DENETİMİ • AÇIKLAMA HAKKI • GÜVENLİ KAMU TEKNOLOJİSİ
Kamu Yapay Zekâ Denetim Kurumu
Devletin kullandığı yapay zekânın vatandaşa karşı görünmez, denetlenemez ve itiraz edilemez bir güce dönüşmesini önler.
Kurum teknolojiyi yasaklamaz; kamu yapay zekâsını kayıt, test, insan sorumluluğu ve temel hak güvencesi altında tutar.
KAMU YAPAY ZEKÂ DENETİM KURUMU
Anayasal Kimlik
Kamu hizmetlerinde yapay zekâ kullanılmasını yasaklamaz; bu sistemlerin hukukla bağlı, denetlenebilir ve insan sorumluluğu altında çalışmasını sağlar.
Kamu Yapay Zekâ Denetim Kurumu, kamu kurumlarının kullandığı yapay zekâ, algoritmik puanlama ve otomatik karar sistemlerini temel haklar, kamu yararı ve teknik güvenlik bakımından inceleyen bağımsız anayasal denetim kurumudur. Kurumun amacı teknolojiyi durdurmak değil, devlet gücünün görünmeyen bir yazılım kararına dönüşmesini önlemektir.
Millî Liyakat Anayasası, kamu hizmetlerinde yapay zekâ ve otomatik karar sistemlerinin insan denetimi, açıklanabilirlik, ayrımcılık yasağı, veri güvenliği, itiraz ve bağımsız denetim olmadan kullanılamayacağını kabul eder. Hiç kimse denetlenemeyen otomatik bir kararla sosyal yardım, eğitim, sağlık, çalışma, kamu hizmeti veya yargı yoluna erişimde dezavantajlı bırakılamaz.
Kurum yalnız kamu gücü kullanan sistemleri ve kamu hizmeti sonucunu doğrudan etkileyen tedarik edilmiş araçları denetler. Özel şirketlerin tüm yapay zekâ faaliyetlerini genel olarak yönetmez; kişisel veri, rekabet, tüketici, medya veya seçim alanındaki özel yetkiler ilgili kurumlarda kalır.
KAMU YAPAY ZEKÂ DENETİM KURUMU
Kurum Görevlileri
Kurumun 23 görevlisi, kamu yapay zekâsını karar, teknik test, hak denetimi, itiraz ve kayıt görevleri birbirine karışmadan inceler.
Kurumun görevlileri karar, sicil, etki değerlendirmesi, teknik test, hukuk, itiraz ve uygulama izleme işlerini birbirinden ayrılmış sorumluluklarla yürütür. Aynı kişi bir sistemi hem onaylayan, hem teknik olarak test eden, hem de itirazını sonuçlandıran makam olamaz.
Kurul üyeleri nihai denetim kararını verir; uzmanlık birimleri kanıt ve analiz üretir. Sicil birimi sistemi kaydeder, etki değerlendirme birimi kullanım öncesi riski ölçer, teknik birimler model ve veriyi test eder, hukuk birimi temel hak ve yetki sınırını inceler.
Görevli kartlarında her makamın yapacağı iş kadar yapamayacağı iş de açıklanmıştır. Böylece teknoloji bilgisi sınırsız idari yetkiye, hukuk görevi teknik sonuca müdahaleye ve yönetim görevi Kurul kararını yönlendirmeye dönüşmez.
KAMU YAPAY ZEKÂ DENETİM KURUMU
Temel Görevler
Kurum, kamu yapay zekâ sistemini kullanılmadan önce kayda alır, riskini ölçer; kullanım sırasında test eder ve zarar doğduğunda düzeltme sürecini izler.
Kamu kurumları, vatandaş hakkında puan, sıralama, risk tahmini, uygunluk değerlendirmesi veya otomatik öneri üreten sistemleri ulusal sicile bildirmek zorundadır. Sicilde sistemin amacı, kullanan kurum, tedarikçi, etkilenen hizmet, veri türleri, risk sınıfı ve insan denetimi düzeni yer alır.
Kurum, yüksek riskli sistemler için kullanımdan önce algoritmik etki değerlendirmesi ister. Bu değerlendirme yalnız teknik doğruluk oranını değil, yanlış kararın doğuracağı hak kaybını, ayrımcılık riskini, veri kalitesini, açıklama biçimini, itiraz yolunu ve sistem kapatıldığında hizmetin nasıl sürdürüleceğini de kapsar.
Kullanım başladıktan sonra hata, itiraz, veri değişikliği, model güncellemesi ve güvenlik olayı izlenir. Kurum gerektiğinde yeniden test, düzeltme planı, insan incelemesinin güçlendirilmesi, kullanımın sınırlandırılması veya ağır ve açık riskte geçici durdurma kararı önerebilir.
KAMU YAPAY ZEKÂ DENETİM KURUMU
Kamu Algoritması Nasıl Denetlenir?
Denetim belge okumakla sınırlı değildir; gerçek karar örnekleri, veri kalitesi, insan müdahalesi ve vatandaşın yaşadığı sonuç birlikte incelenir.
İlk aşamada sistemin gerçekten ne yaptığı belirlenir. Kurumun “yardımcı araç” dediği bir yazılım fiilen başvuruyu reddediyor, kişiyi riskli sayıyor veya görevlinin kararını yönlendiriyorsa yüksek etkili sistem olarak değerlendirilir. İsimlendirme, gerçek işlevin önüne geçemez.
İkinci aşamada veri ve model test edilir. Aynı durumdaki kişilere tutarlı davranıp davranmadığı, belirli gruplarda hata oranının yükselip yükselmediği, eski veya eksik verinin sonucu bozup bozmadığı ve modelin beklenmeyen durumlarda nasıl tepki verdiği incelenir.
Üçüncü aşamada insan sorumluluğu ve itiraz yolu kontrol edilir. Kamu görevlisinin otomatik sonucu gerçekten inceleyip değiştirebilmesi, vatandaşın hangi nedenle etkilendiğini anlayabilmesi ve yanlış veri veya karara karşı hızlı biçimde insan incelemesi isteyebilmesi gerekir.
KAMU YAPAY ZEKÂ DENETİM KURUMU
Kesin Yetki Sınırı
Kurum yapay zekâ politikasını tek başına yönetmez; mahkeme, veri koruma kurumu, seçim kurulu veya kamu hizmetini sunan idarenin yerine geçmez.
Kurum kamu kurumunun yerine sosyal yardım, personel, sağlık, eğitim veya güvenlik kararı veremez. Bir sistemin teknik ve hak riskini inceler; hizmetin esas kararını görevli idare ve kanunda gösterilen yetkili makam verir.
Kurum ceza soruşturması yürütemez, tazminata hükmedemez ve mahkeme kararını değiştiremez. Açık suç şüphesini savcılığa, kişisel veri ihlalini Kişisel Veriler ve Dijital Haklar Kurumuna, seçim müdahalesini Yüksek Seçim Kuruluna ve rekabet sorununu Rekabet Kurumuna bildirir.
Kurum yapay zekâya karşı genel yasak koyamaz, bilimsel araştırmayı keyfî biçimde durduramaz ve belirli bir yerli ya da yabancı teknoloji şirketini koruyamaz. Tedbirler somut risk, kanuni yetki, ölçülülük, savunma hakkı ve yargı denetimiyle uygulanır.
KAMU YAPAY ZEKÂ DENETİM KURUMU
Kurumsal Dönüşüm
Dağınık teknik onaylar yerine, kamu genelinde ortak sicil, risk sınıfı, bağımsız test ve sürekli izleme düzeni kurulur.
Bugün kamu kurumları farklı yazılım ve veri sistemlerini birbirinden kopuk usullerle satın alabilir veya geliştirebilir. Yeni modelde vatandaşın hakkını etkileyen her otomatik sistem ortak sicile girer; “pilot uygulama” veya “karar destek aracı” adı denetimden kaçış yolu olamaz.
Yüksek riskli sistemlerde tedarikçinin kendi beyanı yeterli sayılmaz. Bağımsız test, veri kalitesi incelemesi, temel hak değerlendirmesi, siber güvenlik kontrolü ve gerçek bir insan denetimi planı zorunlu hâle gelir. Kurumlar, neden daha hafif ve daha anlaşılır bir yöntem kullanmadıklarını da açıklamak zorunda olur.
Kurum üyeleri yapay zekâ, veri bilimi, siber güvenlik, kamu hukuku, insan hakları ve kamu yönetimi alanlarından nesnel liyakat ölçütleriyle belirlenir. Görev süreleri siyasi takvimden ayrılır; tedarikçi şirketlerle çıkar çatışması bulunan kişiler dosyadan çekilir.
KAMU YAPAY ZEKÂ DENETİM KURUMU
Yüksek Riskli Sistemler ve İnsan Denetimi
Bir sistemin riski yalnız ne kadar gelişmiş olduğuna göre değil, yanlış karar verdiğinde insan hayatında doğuracağı sonuca göre belirlenir.
Sosyal yardım, sağlık, eğitim, işe alım, kamu personeli, kolluk, göç, vergi, kredi benzeri kamu destekleri ve temel hizmetlere erişim alanındaki sistemler yüksek riskli kabul edilir. Hata yalnız teknik sorun değildir; kişinin gelirini, eğitimini, özgürlüğünü veya kamu hizmetine erişimini etkileyebilir.
Yüksek riskli sistemlerde nihai sorumluluk bir kamu görevlisinde kalır. İnsan denetimi, ekrandaki sonucu otomatik onaylamak değildir; görevlinin yeterli bilgiye, zamana ve kararı değiştirme yetkisine sahip olması gerekir. Sistem çıktısına uymayan görevli cezalandırılamaz.
Çok ağır veya geri döndürülemez sonuç doğuran kararlarda yalnız otomatik sonuca dayanılmaz. Gerekli alanlarda iki aşamalı insan doğrulaması, uzman görüşü veya ek belge incelemesi uygulanır; acil durumda kullanılan sistemler de sonradan tam denetime tabi olur.
KAMU YAPAY ZEKÂ DENETİM KURUMU
Şeffaflık, Açıklama ve İtiraz
Vatandaş, kendisi hakkında otomatik sistem kullanıldığını bilmeli; kararın ana nedenini anlayabilmeli ve gerçek bir kişiye itiraz edebilmelidir.
Kamu kurumu, otomatik sistem kullandığını başvuru formunda, karar bildiriminde veya hizmet ekranında açıkça belirtir. Sistem adı, amacı ve sorumlu kamu birimi anlaşılır biçimde gösterilir; yalnız uzun bir gizlilik metnine saklanamaz.
Kararın açıklaması, kaynak kodunun tamamını yayımlamak anlamına gelmez. Vatandaşa hangi veri veya ölçütün sonucu etkilediği, hangi bilginin yanlış olabileceği ve insan incelemesine nasıl başvuracağı sade Türkçeyle anlatılır. Ticari sır, kararın nedenini tamamen gizleme aracı olamaz.
İtiraz başvurusu yeni bir otomatik sistem tarafından reddedilemez. Yetkili insan görevli dosyayı yeniden inceler, kullanılan veriyi düzeltir, gerekirse otomatik sonucu geçersiz sayar ve gerekçeli cevap verir. İtiraz hakkı, hizmete erişimi geciktiren ağır bir bürokrasiye dönüştürülemez.
KAMU YAPAY ZEKÂ DENETİM KURUMU
Kayıt, Test ve Sürekli İzleme
Yapay zekâ sistemi bir kez onaylanıp unutulmaz; veri, model, kullanım amacı ve hata sonuçları değiştikçe yeniden denetlenir.
Her önemli model, veri veya karar kuralı değişikliği sürüm numarasıyla kayda alınır. Hangi vatandaş kararının hangi sürümle üretildiği sonradan bulunabilmelidir. Kayıt dışı güncelleme, denetim zincirini koparan ağır bir ihlal sayılır.
Kurum yalnız başlangıç testine dayanmaz. Hata oranları, itirazların sonucu, belirli gruplardaki farklılıklar, güvenlik olayları ve kamu görevlilerinin sistemi nasıl kullandığı düzenli olarak izlenir. Başarılı görünen model zamanla bozulursa yeniden değerlendirilir.
Ciddi olaylarda delil kayıtları korunur, etkilenen kişilere bilgi verilir ve düzeltme planı hazırlanır. Sistem geçici olarak sınırlandırılsa bile kamu hizmeti tamamen kesilemez; kurumun insan eliyle veya güvenli yedek yöntemle hizmeti sürdürme planı bulunmalıdır.
KAMU YAPAY ZEKÂ DENETİM KURUMU
Denetim ve Hesap Verme
Kurum denetlediği sistemler kadar kendi yöntemlerini, kararlarını, çıkar çatışmalarını ve kullandığı teknik araçları da açıklamak zorundadır.
Kurul kararları teknik bulgu, hukukî değerlendirme, risk düzeyi ve uygulanan tedbir ayrı ayrı gösterilerek gerekçeli yazılır. Karşı oylar yayımlanır; güvenlik ve kişisel veri nedeniyle gizlenen bölümler somut gerekçeye ve süreye bağlanır.
Kurum her yıl TBMM’ye kamu yapay zekâ sicili, yüksek riskli sistemler, tespit edilen ayrımcılık, ciddi olaylar, durdurulan uygulamalar, itiraz sonuçları ve kurumların uyum durumu hakkında rapor sunar. Rapor teknik uzmanlara değil, vatandaşın anlayacağı açık dile de sahip olur.
Kurumun bütçesi ve harcamaları Sayıştay denetimine, kararları yargı denetimine, bilgi sistemleri bağımsız güvenlik testine açıktır. Kurum kendi denetiminde kullandığı otomatik araçları da sicile kaydeder; denetleyenin kullandığı algoritma denetim dışında kalamaz.
KAMU YAPAY ZEKÂ DENETİM KURUMU
Vatandaş Açısından Sonuç
Vatandaşın karşısında görünmeyen bir yazılım değil, açıklama yapan, sorumluluk alan ve hatayı düzelten bir devlet bulunur.
Bir vatandaş sosyal yardım, eğitim, sağlık veya kamu görevi başvurusunda olumsuz sonuç aldığında bunun yalnızca “sistem böyle hesapladı” denilerek kapatılması önlenir. Kişi otomatik sistem kullanıldığını bilir, kararın ana nedenini görür ve insan incelemesi isteyebilir.
Kamu kurumları da güvenli ve etkili teknolojiden yararlanır. Ortak standartlar, önceden risk testi ve kayıt düzeni; başarısız projelerin, denetlenemeyen tedariklerin ve sonradan ağır hak ihlali doğuran sistemlerin maliyetini azaltır.
Sonuçta teknoloji kamu görevlisinin sorumluluğunu ortadan kaldıran bir perde değil, daha doğru ve hızlı hizmet için denetlenebilir bir araç hâline gelir. Devlet yenilik yapar; fakat vatandaşın hakkını, insan onurunu ve hukuk yolunu yazılımın insafına bırakmaz.