Şirketlere Özel, Yerel ve Gizlilik Odaklı Yapay Zekâ
Verisini dışarıya göndermek istemeyen ya da gönderemeyen şirketler için yapay zekâyı şirketin kendi sunucusunda, açık ağırlıklı modellerle ya da sıkı sözleşme ve erişim kurallarıyla kurmanın seçenekleri ve ödünleri.
Problem
Yapay zekâ isteniyor, ama veri dışarı çıkamıyor
Hukuk büroları, sağlık kuruluşları, finans şirketleri ve Ar-Ge yapan üreticiler yapay zekâdan yararlanmak istiyor; ancak müşteri dosyaları, hasta bilgileri, finansal kayıtlar ya da tasarım belgeleri üçüncü taraf bir hizmete gönderilemiyor. Kişisel verilerin yurt dışına aktarımı 2024'ten bu yana KVKK'da ayrı kurallara bağlı; birçok şirkette de iç güvenlik politikası buna hiç izin vermiyor. Sonuçta ya çalışanlar onaysız araçlara yöneliyor ya da yapay zekâ tamamen rafa kalkıyor.
- Hassas veri üçüncü taraf hizmetlere gönderilemiyor
- Kişisel verilerin yurt dışına aktarımı ayrı yasal yükümlülükler doğuruyor
- Çalışanlar onaysız araçlara yönelebiliyor
- Hangi verinin nerede işlendiği belirsiz kalıyor
Çözüm
Verinin nerede işleneceğine siz karar verin
Önce verinizi sınıflandırırız: hangisi dışarı çıkabilir, hangisi asla çıkamaz. Buna göre üç kurulum seçeneğinden biri ya da karışımı seçilir: açık ağırlıklı bir modelin şirketin kendi sunucusunda veya özel bulut ortamında çalıştırılması; veri işleme koşulları sözleşmeyle belirlenmiş bir bulut sağlayıcısının kullanılması; ya da hassas verinin modele gitmeden önce maskelenmesi. Tüm erişim şirketin kendi kullanıcı yetkileriyle sınırlanır ve her kullanım kayda geçer. Seçimin ödünlerini baştan açıkça konuşuruz: yerel modeller daha fazla kontrol sağlar ama donanım, bakım ve yetenek açısından bedeli vardır.
Olası faydalar
- Hassas veri şirketin belirlediği sınırların dışına çıkmaz
- Hangi verinin nerede işlendiği belgelenir ve denetlenebilir olur
- Çalışanlara onaylı ve izlenebilir bir yapay zekâ aracı sunulur
- Model veya sağlayıcı değiştiğinde uygulamanın geri kalanı değişmez
Nasıl çalışır?
- 01Ekibiniz
Veri sınıfları ve kurallar belirlenir
Hangi veri dışarı çıkabilir, hangisi çıkamaz; hukuk ve bilgi güvenliği ekibiyle birlikte.
- 02Ekibiniz
Kurulum modeli seçilir
Kendi sunucunuzda açık ağırlıklı model, sözleşmeli bulut ya da maskeleme ile karma yapı.
- 03Sistem
Model ve erişim kontrolleri kurulur
Kullanıcı yetkileri, kayıt tutma, kullanım sınırı ve kapatma düğmesi.
- 04Yapay zekâ
Yapay zekâ izin verilen sınır içinde çalışır
Özetleme, soru yanıtlama, taslak hazırlama; veri belirlenen ortamın dışına çıkmaz.
- 05Ekibiniz
Kullanım düzenli denetlenir
Kayıtlar, erişim ve kalite periyodik olarak gözden geçirilir; model güncellemeleri test edilerek alınır.
Örnek: dava dosyalarıyla çalışan bir hukuk bürosu
Büro, avukatların uzun dosyaların ve yazışmaların özetini hızla çıkarabilmesini istiyor; ancak müvekkil bilgilerinin büro dışındaki bir hizmete gitmesini kabul etmiyor. Açık ağırlıklı bir model büronun kendi sunucusunda çalıştırılıyor; avukatlar yalnız yetkili oldukları dosyaları seçip özet ve kronoloji taslağı alabiliyor. Hukuki değerlendirme ve müvekkile giden her metin avukatta kalıyor. Kurulumdan önce, yerel modelin daha büyük bulut modellerine göre bazı görevlerde zayıf kalabileceği deneme dosyalarıyla birlikte ölçülüyor.
Ne gerekir?
Gerekli bilgiler
- Veri sınıflandırması: hangi veri, hangi ortamda işlenebilir
- Kullanıcılar, roller ve dosya erişim yetkileri
- Kalite denemesi için maskelenmiş örnek belgeler
Bağlanacak sistemler
- Şirket sunucusu veya özel bulut ortamı; gerekiyorsa grafik işlemcili (GPU) donanım — ihtiyaca göre değerlendirilir
- Açık ağırlıklı modeller ve bunları çalıştıran araçlar (örneğin Ollama veya vLLM gibi açık kaynak sunucular)
- Şirketin kimlik doğrulama ve yetki sistemi; doküman sistemleri (kurulumda bağlanır)
Nerede insan onaylar?
Hangi verinin hangi ortamda işleneceği kararı yapay zekâya değil, şirketin hukuk ve bilgi güvenliği sorumlularına aittir. Yapay zekânın ürettiği her metin, müşteri veya resmî kurum gibi dışarıya gitmeden önce bir uzman tarafından kontrol edilir.
Güvenlik ve gizlilik
- Yerel kurulumda veri şirketin belirlediği altyapıdan çıkmaz; bulut kullanılıyorsa veri işleme koşulları sözleşmeyle belirlenir
- Kişisel verilerin yurt dışına aktarımı söz konusuysa KVKK'nın 2024 değişikliğiyle getirilen kurallar (örneğin standart sözleşme ve Kurum'a bildirimi) hukuk danışmanınızla birlikte değerlendirilir
- Erişim rol bazlı sınırlanır; her kullanım kayda geçer
- Model dosyaları ve araçlar güvenilir kaynaktan alınır, sürümleri sabitlenir ve güncellemeler test edilerek uygulanır
Yapamadıkları
- Yerel çalışan açık ağırlıklı modeller bazı görevlerde büyük bulut modelleri kadar yetenekli olmayabilir
- Donanım, enerji ve bakım maliyeti şirkete aittir; güncel tutmak sürekli bir iştir
- Model eğitmiyoruz; hazır açık modelleri şirketin altyapısına ve verisine bağlıyoruz
- Hukuki uyum değerlendirmesinin yerini almaz; teknik kurulum, hukuk danışmanlığıyla birlikte yürür
Verinizin hangi kısmı şirketin dışına hiç çıkmamalı?
Veri sınıflarınızla başlayalım; kurulum seçeneklerini, donanım ve bakım ödünleriyle birlikte, karar verebileceğiniz bir tabloya dökelim.
İlgili hizmetler
Bu bir örnek senaryodur, gerçekleşmiş bir müşteri projesi değildir. Kurulum ve sonuçlar işletmenizin verisine ve kullandığı sistemlere göre değişir.