Alana Uyarlanmış Türkçe LLM'ler: Kurumsal Operasyonlar için Üretken Yapay Zekâ

Büyük dil modellerinin kurumsal operasyonlara vaat ettikleri gerçekten cazip: iç verilere doğal dille erişim, otomatik belge üretimi, taleplerin akıllıca yönlendirilmesi, anlık karar desteği. Ancak gerçeklik kısa sürede kendini gösterir. Genel amaçlı modellerin çoğu, en ileri olanlar dahil, Türkçe kurumsal kullanımda belirleyici olan iki boyutta geride kalır: dile sadakat ve alan bilgisine dayanma.

Bu rehberde bu açıkların neden oluştuğunu, alana uyarlamanın pratikte ne anlama geldiğini ve demoda göz dolduran değil, Türkçe kurumsal bağlamda gerçekten işe yarayan bir sistemin nasıl kurulacağını ele alıyoruz.

Türkçe, Genel Amaçlı LLM'ler için Neden Zor?

Türkçe morfolojik açıdan zengin, eklemeli bir dildir: tek bir sözcük, art arda gelen eklerle İngilizcede koca bir yan cümlenin taşıdığı anlamı taşıyabilir. "Yapamayacağım" Türkçede tek bir sözcükken İngilizcede beş kelimeyle ("I will not be able to do it") ifade edilir. LLM'lerin çoğu, ağırlıklı olarak İngilizce ve birkaç Avrupa dilinden oluşan verilerle eğitilir; Türkçe, eğitim derlemlerinde İngilizceye kıyasla kabaca iki büyüklük mertebesi daha az temsil edilir.

Bunun pratik sonuçları ciddidir:

Verimsiz tokenizasyon. Tokenizer'ların çoğu İngilizce morfolojiye göre tasarlanmıştır. Türkçe sözcükler doğal olmayan alt sözcük parçalarına bölünür ve model bunların anlamını yeniden kurmak zorunda kalır. Türkçe bir istem (prompt), İngilizce karşılığından belirgin biçimde daha fazla token tüketir; bu da hem daha yüksek maliyet hem de daha düşük tutarlılık demektir.

Türkçe terimlerde halüsinasyon. Teknik ve alana özgü Türkçe sözcük dağarcığı (hukuki terimler, İK terminolojisi, sektörel jargon) çoğu zaman eğitim verisinde yer almaz. Model, dil açısından doğal görünen ama olgusal olarak yanlış, kulağa makul gelen Türkçe ifadeler uydurur.

Resmî ve gayriresmî üslup. Türkçede birbirinden belirgin biçimde ayrılan resmî ve gayriresmî üsluplar vardır; kurumsal belgeler ise tutarlı biçimde resmî üslup gerektirir. Genel modeller üslupları öngörülemez şekilde karıştırır.

Tarih, sayı ve biçim kuralları. Türkçede tarih GG.AA.YYYY biçiminde yazılır; binlik ayırıcı nokta, ondalık ayırıcı virgüldür. Bu kurallar, modellerin varsayılan olarak benimsediği İngilizce kalıplardan farklıdır.

Alana Uyarlama Pratikte Ne Demek?

"Alana uyarlama" (domain adaptation) ifadesi gevşek kullanılıyor. Pratikte her biri farklı bir sorunu çözen üç ayrı teknikten söz ediyoruz:

1. İstem Mühendisliği ve Sistem İstemleri

En hafif müdahale budur: modelin rolünü, beklenen çıktı biçimini, dil üslubunu ve alan bağlamını tanımlayan ayrıntılı bir sistem istemi (system prompt) hazırlamak. Kapsamı net, tutarlı görevlerde (resmî Türkçeyle toplantı özeti çıkarmak, gelen bir destek talebini sınıflandırmak gibi) iyi bir istem, hiçbir model eğitimi yapmadan açığın büyük kısmını kapatabilir.

Sınırları: bağlam penceresi sonludur; karmaşık alan bilgisi bir isteme sığmaz; istem, modele hiç görmediği terimleri öğretemez; modelin davranışı istemdeki değişikliklere duyarlıdır.

2. Erişimle Zenginleştirilmiş Üretim (RAG)

RAG, LLM'i kendi belgeleriniz üzerinde çalışan bir arama katmanıyla eşleştirir. Modelin parametrelerinde saklı bilgiye güvenmek yerine, her üretim adımı derleminizden getirilen, doğrulanabilir kaynaklara dayandırılır.

Mimari:

1. Belgelerinizi (politika el kitapları, ürün dokümantasyonu, İK el kitapları, hukuki sözleşmeler) bir vektör veritabanına aktarın
2. Sorgu anında kullanıcının sorusunun embedding'ini (vektör temsilini) çıkarın ve en ilgili K belge parçasını getirin
3. Getirilen bağlamı soruyla birlikte LLM'e iletin; model, getirilen metne dayanan bir yanıt üretsin
4. Doğrulama için kaynak belgeleri yanıtın yanında gösterin

RAG'in gücü, modeli yeniden eğitmeden güncel, özel ve alana özgü bilgiye erişmesini sağlamasından gelir; üstelik yanıtları denetlenebilir kılar: her iddia bir kaynak belgeye kadar izlenebilir.

RAG ne zaman yeterlidir: Kullanım senaryonuz ağırlıklı olarak iyi bakılan bir belge derlemi üzerinde bilgi erişimine dayanıyorsa. Modelin temel dil yetenekleri yeterlidir; sorun, eksik alan bilgisidir.

3. İnce Ayar ve Sürdürülen Ön Eğitim

Modelin yalnızca bilgisinin değil, temel davranışının (çıktı üslubunun, akıl yürütme kalıbının ya da Türkçe dil kalitesinin) değişmesi gereken görevlerde izlenecek yol ince ayardır (fine-tuning).

Sürdürülen ön eğitim (continued pre-training): Denetimli ince ayardan önce modeli büyük, temiz ve alana özgü bir Türkçe derlemle besleyin. Bu, modelin Türkçe tokenizasyon verimliliğini, resmî üsluba hâkimiyetini ve sektör terminolojisine temel aşinalığını artırır. Kayda değer işlem gücü ve veri derleme emeği gerektirir.

Denetimli ince ayar (SFT): Modeli hedef görevi temsil eden girdi-çıktı çiftleriyle eğitin: kullanıcı sorgusu → ideal yanıt. Türkçe bir İK asistanı için bu, resmî Türkçeyle yazılmış, iyi kurgulanmış İK politikası açıklamaları, disiplin yazışmaları ve izin yönetimi yanıtlarından oluşan yüzlerce, hatta binlerce özenle seçilmiş örnek demektir.

Tercih öğrenimi (RLHF / DPO): İnsanların sıraladığı yanıt çiftlerini kullanarak modeli tercih edilen çıktılara daha da hizalayın. Halüsinasyonu azaltır, ton tutarlılığını artırır.

Türkçe Kurumsal RAG Sistemi Kurmak

Kurumsal kullanımların çoğunda, özenle derlenmiş bir belge kümesi üzerinde iyi kurgulanmış bir RAG mimarisi, ince ayara kıyasla daha güvenilir değeri daha hızlı sunar. Doğru kurulumu şöyle yapılır.

Belge Aktarımı ve Parçalama

Erişim kalitesi büyük ölçüde belgelerin nasıl parçalandığına (chunking) bağlıdır. Karakter sayısına göre yapılan basit bölme, çoğu zaman cümleyi ortasından keser ya da bir soruyu cevabından ayırır. İyi uygulamalar:

• Sabit karakter sayısı yerine anlamsal sınırlara (paragraf, bölüm başlığı) göre bölün
• Sınırlarda bağlam kaybını önlemek için parçalar arasında örtüşme bırakın (bir parçanın son 100–200 token'ı bir sonrakinin başında da yer alsın)
• Kaynak gösterebilmek için her parçayla birlikte belge meta verisini (kaynak, tarih, bölüm başlığı) saklayın

Türkçe için Embedding Modelleri

Genel amaçlı İngilizce embedding modelleri (OpenAI text-embedding-ada-002 vb.) Türkçe metni zayıf temsil eder. Daha kaliteli Türkçe embedding için seçenekler:

• Çok dilli modeller (multilingual-e5-large, LaBSE): makul bir başlangıç noktası
• Türkçeye özel ince ayar yapılmış embedding'ler: Türkçe erişim kıyaslamalarında daha yüksek kalite
• Diller arası erişim (kullanıcı sorguları Türkçe, kaynak belgeler zaman zaman İngilizce): çok dilli modeller bunu yalnızca Türkçe modellerden daha iyi karşılar

Erişim Kalitesi

Tek başına anlamsal arama her zaman yeterli değildir. Yoğun (dense) anlamsal aramayı BM25 anahtar sözcük aramasıyla birleştiren hibrit erişim yaklaşımı, ikisinin tek başına kullanımından tutarlı biçimde daha iyi sonuç verir. Getirilen parçaları LLM'e göndermeden önce bir cross-encoder ile yeniden sıralamak (reranking) ilgililiği daha da artırır.

Koruma Mekanizmaları

Kurumsal kullanımda sistem, getirilen bağlam bir yanıtı desteklemiyorsa halüsinasyon üretmek yerine kibarca yanıt vermekten kaçınmalıdır. Şunları uygulayın:

• Güven puanlaması: getirilen belgelerin benzerlik puanları eşiğin altındaysa "Bu konuda belgelerinizde yeterli bilgi bulunamadı" yanıtını verin
• Kaynak gösterme zorunluluğu: modelin belirli kaynak belgelere atıf yapmasını şart koşun
• Çıktı doğrulama: yapılandırılmış çıktılarda (JSON, form verisi) yanıtı döndürmeden önce şemayı doğrulayın

Değerlendirme: Gerçekten Çalıştığını Nasıl Anlarsınız?

Değerlendirme, LLM projelerinin en çok ihmal edilen parçasıdır. Sistematik değerlendirme olmadan, bir değişiklikten sonra sistemin iyileşip iyileşmediğini ya da gerilediğini bilemezsiniz.

Altın veri kümesi oluşturun: Alan uzmanlarınca derlenmiş, referans yanıtlarıyla birlikte 100–200 gerçek sorgu. Uç durumları, belirsiz sorguları ve kapsam dışı talepleri de dahil edin.

RAG için metrikler:

• Erişim duyarlılığı (retrieval recall): doğru belge, getirilen ilk K sonuç arasında mı?
• Yanıt sadakati (faithfulness): üretilen yanıt getirilen bağlama sadık mı kalıyor, yoksa halüsinasyon mu üretiyor?
• Yanıt ilgililiği: yanıt soruyu karşılıyor mu?
• Türkçe dil kalitesi: resmî üslup, dil bilgisi doğruluğu

Değerlendirmeyi her dağıtım değişikliğinde koşturun. Erişim duyarlılığı düşüyorsa sorun parçalamada ya da embedding'dedir. Sadakat düşüyorsa sorun üretim isteminde ya da modeldedir. İkisini birbirine karıştırmayın.

Üretim Ortamı için Dağıtım Mimarisi

Üretim ortamındaki bir Türkçe kurumsal LLM sisteminin şunlara ihtiyacı vardır:

• API ağ geçidi: Hız sınırlama, kimlik doğrulama, her sorgu-yanıt çiftinin denetim kaydı
• Önbellek katmanı: Sık sorulan sorgular aynı bağlamı getirir; önbelleği erişim adımında kurun
• İnsana devretme yolu: Düşük güvenli yanıtlarda belirsiz bir cevap sunmak yerine talebi bir insan uzmana yönlendirin
• Geri bildirim döngüsü: Kullanıcıların yanlış ya da işe yaramayan yanıtları işaretlemesine olanak tanıyın; bunları bir sonraki iterasyonda eğitim verisi olarak kullanın
• Gizlilik denetimleri: Kişisel verilerin (PII) kayıtlara ya da eğitim hatlarına sızmadığından emin olun; veri saklama politikaları uygulayın

Yol Haritası: Aşama Aşama

1. Aşama (4–6 hafta): En yüksek değerli belge derlemi üzerinde RAG prototipi. Değerlendirme veri kümesinin tanımlanması. Başlangıç metrikleri.

2. Aşama (4–8 hafta): Üretime hazırlık: hibrit erişim, yeniden sıralama, koruma mekanizmaları, denetim kaydı. Başlangıç durumuna (insanların yürüttüğü süreç) karşı A/B testi.

3. Aşama (sürekli): Biriken sorgu-yanıt çiftleri ve tercih verisiyle ince ayar. Belge derleminin genişletilmesi. Göreve özgü yeteneklerin eklenmesi.

Sonuç

Türkçe kurumsal yapay zekâ, en büyük modeli seçip dil ayarını değiştirmekle çözülecek bir iş değildir. Bilinçli mimari tercihler (hibrit erişim, Türkçe için optimize edilmiş embedding'ler, özenli parçalama, güven eşiğine bağlı koruma mekanizmaları) ve çoğu ekibin atladığı titiz bir değerlendirme disiplini gerektirir.

Bunu doğru yapan kurumlar, veri derleme ve değerlendirme altyapısına ürünü kurduktan sonra değil, kurmadan önce yatırım yaptıkları için başarılı olur. Ortaya çıkan sistem, alan uzmanlarının güvendiği, denetçilerin doğrulayabildiği ve İngilizce yapay zekâ kalıplarını yaklaşık olarak çevirmek yerine Türkçe kurumsal dili gerçekten ele alabilen bir sistemdir.

• LLM
• NLP
• Türkçe
• RAG
• Üretken Yapay Zekâ