Eğitim, İnce Ayar ve Damıtma: Her Yapay Zekâ Duyurusunu Açıklayan Üç Kelime

İnce ayar bir modelin ne yaptığını değiştirir; damıtma ise bir modelin kaça mal olduğunu değiştirir.

Yapay Zeka5 dakikalık okuma Güncelleme: Eylül 2026

OSC's HP Intel Xeon Oakley Cluster provides clients with a total peak performance of 154 Teraflops of computing power and 4 gigabytes of memory per core — Fotoğraf: Ohio Supercomputer Center · Wikimedia Commons · CC BY-SA 3.0

İnce ayar bir modelin ne yaptığını değiştirir; damıtma ise bir modelin kaça mal olduğunu değiştirir.

Bu kelimeler, modern büyük dil modellerinin (LLM'ler) üretim ortamında kullanıma nasıl uyarlandığının temel yollarını özetler. Geniş veri kümeleri üzerindeki ilk eğitimden, göreve özel ince ayara ve nihai modelin daha küçük, daha ucuz bir öğrenci sürüme son damıtılmasına kadar yapay zekâ geliştirme sürecinin tüm yaşam döngüsünü kapsarlar. Bu döngüyü anlarsanız, her yapay zekâ duyurusundaki veri, hesaplama ve yetenek iddialarını çözmek için zihinsel bir modele sahip olursunuz.

Eğitimden Temel Modellere

Bir LLM'in yolculuğu, alanın "eğitim" dediği şeyle başlar: bir yapay sinir ağının, geri yayılım adı verilen bir algoritmayı kullanarak devasa bir veri kümesindeki tahmin hatalarını en aza indirmek suretiyle girdileri çıktılarla eşleştirmeyi öğrendiği bir süreç.

LLM'ler söz konusu olduğunda bu genellikle devasa bir internet metni derlemindeki bir sonraki kelimeyi tahmin etmeyi öğrenmek anlamına gelir—bir kütüphanedeki tüm kitaplardan çok daha büyük bir veri kümesi hayal edin. Amaç, modelin daha sonra belirli görevlere uyarlayabileceği genel dil kalıplarını yakalamaktır. Bir LLM'in hesaplama ve veri maliyetinin çoğunun gittiği yer işte bu ilk eğitimdir: bunu kabataslak bir İngilizceyi (veya diğer birçok dili) okumayı, yazmayı ve konuşmayı öğrenmek gibi düşünebilirsiniz.

Bu aşamaya dair kesin sayılara ulaşmak zordur, ancak temel LLM'lerin trilyonlarca belirteç içeren veri kümeleri ve onlarca veya yüzlerce milyarlık parametre sayılarıyla önceden eğitildiğini biliyoruz [TO VERIFY]. Gereken kesin veri kümeleri ve hesaplama gücü genellikle tescilli kabul edilir ve teknik raporlarda nadiren tam olarak belirtilir. Ancak tüm kaynaklar, bu aşamanın tek başına ince ayardan hesaplama açısından daha pahalı olduğu konusunda hemfikirdir.

İnce Ayar: Bir Modelin Ne Yaptığını Değiştirmek

Bir LLM devasa bir genel amaçlı derlem üzerinde eğitildikten sonra, ince ayar adı verilen bir süreçle göreve özel yetenekleri öğrenmeye başlayabilir. Google'ın LLM hızlandırılmış kursunda açıklandığı gibi bu, önceden eğitilmiş bir modeli alıp hedef görevle ilgili çok daha küçük bir veri kümesi üzerinde daha fazla eğitmek anlamına gelir. Amaç, modeli sıfırdan tamamen yeniden yazmadan nasıl davrandığını değiştirmektir.

Bu aşamada model boyutu aynı kalır, ancak dahili ağırlıkları hedef uygulamaya özel etiketli örnekler kullanılarak ayarlanır. Bu, göreve bağlı olarak binlerce veya milyonlarca örnek anlamına gelebilir. İnce ayar, sıfırdan yapılan ilk eğitime kıyasla çok daha az veri ve hesaplama gücü gerektirir, ancak yine de ucuz değildir.

Örneğin, 7 milyar parametreli bir modele ince ayar yapmak 5 ila 20 dolar arasında tutabilir ve kullanılan veri kümesi boyutuna ve GPU saatine bağlı olarak 13 ila 70 milyar aralığındaki modeller için 100 ila 400 dolara çıkabilir. Daha fazla veri daha fazla eğitim süresi anlamına gelir ve maliyet kaba kategoriler halinde ölçeklenir: 1–10 bin örnek 2–8 GPU saati alabilirken, 100 bin–1 milyon örnek 24–96 saat sürebilir; formül ise şöyledir: eğitim saatleri ≈ (veri kümesi boyutu ÷ toplu iş boyutu ÷ işleme hızı) × devirler. En üst seviyede, son teknoloji ürünü bir LLM'e ince ayar yapmak, ayrıntılara bağlı olarak 4.000 dolardan 150.000 dolara kadar çıkabilir.

Özetle: ince ayar, ilk eğitimden çok daha az veri kullanır, ancak modelin boyutunu veya maliyetini mutlaka düşürmeyi değil, belirli bir kullanım durumu için davranışını değiştirmeyi amaçlayan, kendi başına yine de önemli bir hesaplama yatırımıdır.

Damıtma: Bir Modelin Maliyetini Değiştirmek

İnce ayar bir LLM'in ne yaptığını değiştirmekle ilgiliyse, damıtma da veri ve eğitimden kısarak değil, nihai modelin boyutunu küçülterek neye mal olduğunu değiştirmekle ilgilidir. Google'ın açıkladığı gibi damıtma, orijinal yeteneklerin çoğunu korurken daha hızlı ve daha ucuz çıkarım elde etmek için parametre sayılarını azaltarak ince ayarlı bir modelin daha küçük, sadeleştirilmiş bir sürümünü üretir.

Bu, bilgi damıtma yoluyla yapılır: ince ayarlı "öğretmen" model büyük bir veri kümesi üzerinde çalıştırılır ve ardından çıktı, daha küçük bir mimariye sahip olacak şekilde tasarlanmış "öğrenci" için eğitim verisi olarak kullanılır. Öğrenci, sıfırdan öğrenerek değil, öğretmenin kalıplarını daha az parametreye yerleştirerek öğretmenin çıktılarıyla eşleşmeyi amaçlar. Bu da orijinali kadar yetenekli olmasa bile çıktıları çok daha hızlı üretebilen ve GPU belleği ile güç gibi daha az hesaplama kaynağı kullanan damıtılmış bir model ortaya çıkarır.

Bu aşama için gereken veri, öğretmenin birçok girdi istemi üzerindeki çıktısıdır; bu da bizzat öğretmenin çıktılarından kaynaklandığı için insan tarafından etiketlenmiş verileri toplamaktan çok daha ucuz olabilir. Damıtılmış öğrenci model, öğretmene karşı performansını iyileştirmek için genellikle orijinal görev verileri üzerinde fazladan bir ince ayar aşamasından da geçer.

Özetle damıtma, daha ucuza ve daha hızlı çalışabilmesi için, temel yeteneklerinin çoğu korunmuş olarak, zaten ince ayarı yapılmış bir modeli daha küçük bir pakete sıkıştırmakla ilgilidir. Veri gereksinimi, parametre açısından verimli öğrenciyi eğitmek için kullanılan öğretmenin çıktılarına kayar.

Veri ve Hesaplama Gücü Üç Aşamada Nasıl Ölçeklenir?

Temel bir LLM'i eğitmek, internet kadar büyük genel amaçlı veri kümelerinden öğrenmek anlamına gelir; üstelik muhtemelen yalnızca tescilli laboratuvarların karşılayabileceği bir hesaplama maliyetiyle [TO VERIFY]. İnce ayar daha küçük, görevle ilgili veri kümelerine odaklanır, bu nedenle model boyutuna ve veri hacmine bağlı olarak 5 ila 400 ABD doları arasında daha ucuzdur.

Son olarak damıtma, öğretmenin performansını mümkün olduğunca az parametreyle eşleştirmeyi amaçlayan, parametrelerin yalnızca küçük bir kısmıyla ince ayarlı modele benzer sonuçlar elde eden ve çıkarım anında daha düşük hesaplama maliyeti sağlayan bir parametre azaltma işlemidir.

Yapay Zekâ Duyurularını Bu Üç Kelime Üzerinden Okumak

Yapay zekâ sürüm notlarını şu üç aşamayı kullanarak analiz edin:

"Yeni bir temel model eğitildi" veya "önceden eğitilmiş bir LLM üzerine inşa edildi" ifadeleri, genel dil kalıplarını öğrenmek için veri ve hesaplama gücüne yoğun bir yatırım yapıldığını ima eder.
"[Görev] için ince ayar yapıldı" ifadesi, modelin boyutunun ve orijinal yeteneklerinin aynı kaldığı, ancak genellikle orijinal hesaplama gereksinimlerini artırmadan hedef alandaki veya görevdeki performansını artırmak için ağırlıklarının ayarlandığı anlamına gelir.
"[Sayı] milyar parametreye damıtıldı" ifadesi, daha az kaynakla performansını yakalamak amacıyla, tipik olarak göreve özel ince ayarlı modelden yola çıkılarak daha küçük, daha hızlı ve daha ucuz bir sürümün türetildiğini gösterir.

Gelecekte, "yeni bir temel LLM", "[belirli bir görev] için ince ayar yapılmış" bir model veya "[belirli bir boyuta] damıtılmış" bir model hakkında okuma yaptığınızda, şirketin bu sınıflandırmayla ne demek istediğini çözmek için artık sağlam bir zihinsel modele sahipsiniz.