Yapay Zekâ Nasıl Kullanılır? #1 — İşletmede Sıfırdan Başlangıç

Bir dil modeli, kendisine verilen metnin devamında hangi parçanın gelmesinin en olası olduğunu tahmin eder. Bunu milyarlarca metin üzerinde öğrendiği örüntülere bakarak yapar. Veri tabanından cevap aramaz, hesap makinesi gibi işlem yürütmez — tahmin eder. Şaşırtıcı derecede iyi çalışmasının da, bazen kendinden emin şekilde uydurmasının da tek sebebi budur.

Modelin gördüğü şey harf ya da kelime değil, "token" denen parçalardır. Türkçede bir kelime çoğu zaman birden fazla token'a bölünür; "faturalandırma" tek bir kelime olsa da model onu birkaç parça hâlinde görür. Bu ayrıntı önemsiz gibi durur ama iki şeyi doğrudan etkiler: maliyet (kullanım genelde token başına ücretlendirilir) ve sığdırabileceğiniz metnin uzunluğu.

Modelin bir seferde görebildiği toplam metin miktarına bağlam penceresi denir. Pencereye sığmayan şey model için yoktur. Yüz sayfalık bir sözleşmeyi tek seferde yapıştırıp "özetle" derseniz ve metin pencereye sığmıyorsa, aracın çoğu bunu sessizce kırpar. Özet gelir, doğru görünür, ama son otuz sayfa hiç okunmamıştır.

Token

Metnin modele verilirken bölündüğü en küçük parça. Ücretlendirme ve uzunluk sınırları token üzerinden hesaplanır.

Bağlam penceresi

Modelin tek seferde görebildiği toplam token miktarı. Sisteme verdiğiniz talimat, konuşma geçmişi ve yapıştırdığınız belge bu pencereyi paylaşır.

Sistem talimatı

Modele her konuşmanın başında verilen kalıcı rol ve kural metni. Kullanıcı görmez ama model her yanıtta buna uyar.

Halüsinasyon

Modelin var olmayan bir bilgiyi doğruymuş gibi üretmesi. Yalan söylemek değil; olası devamı üretirken gerçeği kontrol edecek bir mekanizmanın olmamasıdır.

Sıcaklık (temperature)

Yanıtın ne kadar değişken olacağını belirleyen ayar. Düşük değer tutarlı ve kuru, yüksek değer yaratıcı ve savruk sonuç üretir.

Ajan (agent)

Yalnızca metin üretmekle kalmayıp araç çağırabilen, yani bir sistemden veri okuyup ona yazabilen yapı.

Model, bilmediğini fark edecek bir mekanizmaya sahip değildir. Bir cümlenin olası devamını üretir; o devam gerçeğe uyuyorsa doğru, uymuyorsa halüsinasyon deriz. İkisi de modelin içinde aynı işlemdir. Bu yüzden çözüm modele güvenmek değil, doğrulanabilir kaynak vermek ve çıktıyı kontrol edilebilir hâle getirmektir.

En sık karşılaşılan halüsinasyon türü uydurma kaynaktır: var olmayan bir kanun maddesi, olmayan bir standart numarası, hiç yayımlanmamış bir rapor. İkinci sık tür, doğru bilgiyi yanlış yere bağlamaktır — gerçek bir mevzuat maddesini alıp sizin sorduğunuz duruma uygularken içeriğini kaydırır.

Bunu tamamen ortadan kaldıramazsınız, ama büyük ölçüde bastırabilirsiniz. Yöntem basit: modele cevabı ezberinden değil, verdiğiniz belgeden bulmasını söyleyin. Sektörde buna bağlam ile getirme (retrieval) denir. Model önce sizin belgelerinizde arar, bulduğu parçayı okur, cevabı ondan kurar. Böylece uydurma alanı daralır ve cevabın hangi paragraftan geldiğini de gösterebilir.

Sonuç kalitesindeki en büyük fark modelden değil, isteğin yazılış biçiminden gelir. İyi bir istem beş şeyi içerir: rol, görev, bağlam, biçim ve sınır. Bu beşini yazmak ortalama otuz saniye sürer ve çoğu durumda çıktıyı kullanılabilir hâle getirir.

1. 01

   Rol

   Modelin hangi gözle bakacağını söyleyin. "Perakende mağazasında çalışan bir ön muhasebe sorumlususun" demek ile hiçbir şey dememek arasında ciddi fark vardır; rol, hangi kelime dağarcığını ve hangi öncelikleri kullanacağını belirler.

2. 02

   Görev

   Tek ve net bir eylem yazın. "Şu metni analiz et" belirsizdir. "Şu metinden ödeme vadesi geçmiş cari hesapları çıkar" nettir. Bir istemde birden fazla iş varsa ikiye bölün.

3. 03

   Bağlam

   Modelin bilemeyeceği her şeyi verin: hangi şirket, hangi dönem, kimin için, hangi kısıtlar var. Modelin sizin işinizi bildiğini varsaymayın — hiç bilmiyor.

4. 04

   Biçim

   Çıktının şeklini tarif edin: kaç madde, hangi başlıklar, tablo mu paragraf mı, kaç kelime. Biçim vermezseniz her seferinde farklı şekilde gelir ve karşılaştıramazsınız.

5. 05

   Sınır

   Neyi yapmayacağını da yazın. "Tahmin etme", "veri yoksa boş bırak", "yorum ekleme", "kişi adı kullanma". Sınırlar, düzeltmek için harcayacağınız süreyi doğrudan kısaltır.

Şu müşteri şikâyetlerine bir bak ve bana özet çıkar.

Beyaz eşya perakendesinde çalışan bir müşteri deneyimi uzmanısın.

Görev: Aşağıdaki 40 şikâyet kaydını konu başlıklarına göre grupla.

Bağlam: Kayıtlar iki mağazadan geliyor, son 30 güne ait.
Teslimat ve montaj süreçleri farklı ekiplerce yürütülüyor.

Biçim: Bir tablo ver. Sütunlar: Konu | Kayıt sayısı | Örnek cümle |
Sorumlu süreç (teslimat / montaj / satış / servis / belirsiz)
Tablodan sonra en fazla 5 maddelik bir öneri listesi ekle.

Sınır: Kayıtlarda geçmeyen hiçbir bilgiyi ekleme. Emin olamadığın
kaydı 'belirsiz' olarak işaretle. Müşteri adı yazma.

İkinci istem uzun görünüyor ama bir kez yazılır ve her ay tekrar kullanılır. İyi istemleri bir dosyada biriktirin; ekipte herkesin aynı kalıbı kullanması, çıktının aylar boyunca karşılaştırılabilir kalmasını sağlar. Şirket içinde "istem kütüphanesi" kurmak, çoğu işletmenin yapay zekâdan aldığı verimi ikiye katlayan en ucuz adımdır.

İyi ilk aday üç özelliği birden taşır: sık tekrarlanır, çıktısı metindir ve hata yapılırsa geri dönülebilir. Bu üçü sağlanmıyorsa oradan başlamayın. Aşağıdaki tablo, tipik bir işletmede bu ölçütlere en çok uyan işleri ve her birinde nelere dikkat edileceğini gösteriyor.

Listede olmayan bir işi değerlendirirken şu soruyu sorun: bu işi bir stajyer yapsa, çıktısını kontrol etmek kaç dakika sürerdi? Kontrol süresi işin kendisinden uzunsa, o iş yapay zekâya uygun değildir. Bu tek soru, çoğu yanlış projeyi başlamadan eler.

Genel bir dil modeli sizin stok bakiyenizi, cari hesabınızı ya da dünkü satışınızı bilemez. İşinize yarar hâle gelmesi için ya veriyi soru anında ona vermeniz ya da bir sisteme bağlanıp kendisinin okuyabilmesi gerekir. İki yöntemin maliyeti ve riski çok farklıdır.

1. 01

   1. Yapıştırma

   En basiti: raporu kopyalayıp sohbete yapıştırırsınız. Kurulum gerektirmez, hemen çalışır. Sınırı: her seferinde elle yapılır, uzun veri pencereye sığmaz ve veriyi dışarı taşımış olursunuz.

2. 02

   2. Belge havuzu (getirme / RAG)

   Belgeleriniz aranabilir bir havuza konur; soru sorulduğunda önce ilgili parçalar bulunur, sonra modele yalnızca o parçalar verilir. Sözleşme, prosedür, ürün kataloğu gibi değişmeyen bilgi için doğru yöntemdir.

3. 03

   3. Canlı sistem bağlantısı (araç çağırma)

   Model, tanımlı araçlar üzerinden gerçek sisteminize sorar: "şu ürünün stoğu kaç", "bu müşterinin vadesi geçmiş bakiyesi var mı". Cevap anlık veriden gelir, ezberden değil. Kurulumu en zahmetli ama tek gerçekten güncel yöntem budur.

Üçüncü yöntemde kritik olan nokta yetkidir. Modele sisteminizi açtığınızda, o modelle konuşan kişinin göremeyeceği veriyi model de görememelidir. Yetkiyi modele değil, modeli çağıran kullanıcıya bağlayın. Aksi hâlde depo görevlisi, sohbet üzerinden maaş bordrosunu okuyabilir hâle gelir.

Kişisel veri, üçüncü tarafla paylaşılan bir hizmete gönderildiğinde bu bir veri aktarımıdır ve KVKK kapsamındadır. Kural basit: bir veriyi dışarıdaki bir hizmete göndermeden önce, o veriyi bir danışmana e-postayla gönderir miydiniz diye sorun. Cevap hayırsa göndermeyin.

• T.C. kimlik numarası, kimlik ve pasaport görüntüsü, ehliyet bilgisi
• Bordro, maaş bilgisi, özlük dosyası içeriği ve sağlık raporu
• Müşteri adı, telefonu, adresi — özellikle sipariş kaydıyla birlikte
• Kart numarası, IBAN, banka yazışması ve tahsilat detayı
• İmzalı sözleşmelerin taraf bilgileri ve fiyat maddeleri
• Şifre, API anahtarı, veritabanı bağlantı adresi

Bu veri olmadan iş görülemiyorsa iki yol vardır. Birincisi maskeleme: kişi adını "MÜŞTERİ-1", telefonu "NUMARA-1" gibi takma değerlerle değiştirip modele öyle vermek, dönen cevapta yerine koymak. İkincisi, verinin hiç dışarı çıkmadığı bir kurulum kullanmak — kendi altyapınızda çalışan ya da sözleşmesinde veriyi eğitimde kullanmayacağını taahhüt eden bir hizmet.

"Çok işimize yaradı" ölçüm değildir. Ölçüm, başlamadan önce not aldığınız bir sayının sonradan değişmesidir. Üç ölçü yeter: bir işin süresi, çıktının düzeltilme oranı ve o işi yapan kişinin ayırdığı haftalık saat.

1. Başlamadan önce ölçün. Seçtiğiniz işin bir örneğini elle yapın ve süreyi yazın. Bu sayı olmadan sonraki her yorum tahmindir.
2. Aynı işi yapay zekâ ile yapın ve iki süreyi karşılaştırın — kontrol ve düzeltme süresi dâhil.
3. Düzeltme oranını sayın: on çıktının kaçı olduğu gibi kullanıldı, kaçı elden geçirildi, kaçı çöpe gitti.
4. Dört hafta üst üste aynı ölçümü yapın. İlk hafta hep iyimserdir; asıl eğilim üçüncü haftada görünür.
5. Sonucu tek sayfada yazın: kazanılan saat, düzeltme oranı, karşılaşılan riskler ve devam kararı.

Kazanılan sürenin nereye gittiği ayrı bir sorudur. Haftada altı saat kazanıp o saati boşluğa harcayan bir ekip hiçbir şey kazanmamıştır. Kazandığınız süreyi baştan bir işe bağlayın: müşteri araması, saha ziyareti, ürün kartlarının düzeltilmesi. Ölçüm ancak o zaman anlam kazanır.

Otuz gün, sonuç almak için yeterli ve vazgeçmek için kısa bir süredir. Plan tek bir işe odaklanır, tek bir kişiye sorumluluk verir ve sonunda net bir karar üretir: devam mı, başka iş mi, vazgeç mi.

1. 01

   1. hafta — Seçim ve ölçüm

   Sık tekrarlanan, çıktısı metin olan ve hatası geri alınabilir tek bir iş seçin. Bu işi bugün kim yapıyorsa onu sorumlu atayın. Mevcut süreyi ve mevcut kaliteyi yazılı olarak ölçün.

2. 02

   2. hafta — İstem ve sınır

   Beş parçalı istemi yazın, üç farklı gerçek örnekte deneyin, her denemede istemi düzeltin. Aynı hafta hangi verinin dışarı çıkmayacağını yazıya dökün.

3. 03

   3. hafta — Günlük kullanım

   İşi bir hafta boyunca yalnızca bu istemle yaptırın. Her çıktı için tek satır not tutun: olduğu gibi kullanıldı / düzeltildi / kullanılmadı. Not tutulmayan hafta ölçülemez.

4. 04

   4. hafta — Karar

   Sayıları karşılaştırın. Kazanç varsa istemi kütüphaneye ekleyip ikinci işe geçin. Kazanç yoksa işin kendisini mi yoksa istemi mi değiştireceğinize karar verin. Üçüncü seçenek de meşrudur: bu iş uygun değilmiş deyip bırakmak.

Yapay zekâ projelerinin çoğu teknolojiden değil, yaklaşımdan dolayı tıkanır. Aşağıdaki altı hatanın hepsi bedava düzeltilebilir — yalnızca fark edilmesi yeterlidir.

• Tek cümlelik istem yazıp kötü sonuca kızmak. İstem, işin tarifidir; tarif ne kadar eksikse sonuç o kadar rastgele olur.
• Çıktıyı kontrol etmeden kullanmak. Kontrol adımı olmayan hiçbir yapay zekâ süreci güvenli değildir.
• Sayısal işi modele yaptırmak. Toplama, yüzde ve tarih hesabı hesap tablosunun ya da sistemin işidir.
• Herkesin kendi hesabıyla farklı araç kullanması. Ne veri sınırı kalır ne de tekrarlanabilir bir kalite.
• Sonucu ölçmemek. Ölçülmeyen bir iyileştirme, bütçe konuşmasında savunulamaz.
• İlk denemede vazgeçmek. İlk çıktı neredeyse her zaman kötüdür; ikinci ve üçüncü istem sürümü asıl farkı yaratır.

Bu yazı temeli kurdu: modelin ne yaptığı, iyi istemin yapısı, ilk kullanım alanları, veri sınırları ve otuz günlük plan. Serinin devamı, yapay zekânın kendi sisteminizle konuşmaya başladığı yeri anlatacak — okuduğu veriyle iş yapan, görev açan ve rapor değerlendiren yapılar.

Aradaki fark şu: bu yazıda anlatılan kullanım hep "sor–cevap al" biçimindeydi. Bir sonraki aşamada model, sorduğunuz şeyi cevaplamak için gerçek sisteminize bakar; gerektiğinde bir kayıt açar, bir kişiye görev atar, bir raporu değerlendirip size sadece dikkat edilmesi gerekeni söyler. Buna ajan denir ve kurulumu farklı bir disiplin ister.

Bu tür bir yapıyı biz de kendi operasyonumuzda kullanıyoruz: OpsMind, WhatsApp üzerinden gelen mesajı okuyup ESA'daki gerçek veriye bakıyor, görev açıyor ve teslim takibi yapıyor. Nasıl kurulduğunu merak ediyorsanız OpsMind sayfasında araç listesine ve güvenlik sınırlarına kadar anlatılıyor. Ama önce bu yazıdaki otuz günlük planı bitirmenizi öneririz — temel kurulmadan ajan kurmak, yürümeden koşmaya benziyor.