Türkiye'nin başkenti
Model iniyor · %0 210 MB, yalnızca ilk açılışta. Bu sırada örnekleri deneyin.
Sıcaklık

0.8

Örnekleme

k=5

Bu sayfa nedir?

Bu sayfa, Georgia Tech Polo Club'ın Transformer Explainer aracının İstem Mühendisliği dersi için hazırlanmış Türkçe uyarlamasıdır. Tek fark modeldir: Özgün araç İngilizce GPT-2'yi çalıştırır; burada Yıldız Teknik Üniversitesi Cosmos ekibinin Türkçe metinle eğittiği Türkçe GPT-2 modelleri çalışıyor: küçük ve orta boy.

Model

  • Küçük model (açılışta yüklenir): 124 milyon parametre · 12 Transformer bloğu · her blokta 12 dikkat başı · 768 boyutlu vektörler. İndirme 210 MB.
  • Orta model (isteğe bağlı, yazı kutusunun altındaki “Orta modele geç” ile): 355 milyon parametre · 24 blok · her blokta 16 dikkat başı · 1024 boyutlu vektörler. İndirme 470 MB. Türkçesi belirgin biçimde daha tutarlı; her token biraz daha yavaş.
  • Çok dilli model (isteğe bağlı): Meta'nın 30 dilde eğittiği XGLM, 564 milyon parametre · 24 blok · 16 baş · 1024 boyut. Yapısı GPT-2'ye çok yakın olduğu için bire bir aktarıldı; sözlüğü 256 binden Türkçe ve İngilizcede kullanılan 40 bin parçaya indirildi. İndirme 478 MB. Her metnin başına </s> başlangıç işareti koyar. Türkçesi, aynı boydaki yalnız-Türkçe modelden zayıftır: parametrelerini 30 dil paylaşır.
  • Gemma 3 (isteğe bağlı): Google'ın gemma-3-270m modeli, 270 milyon parametre · 18 blok · 4 sorgu başı (anahtar/değer başı 1, dört başta ortak) · 640 boyut. İndirme 211 MB. Diğer üçünden farklı olarak bugünkü büyük modellerin parçalarını taşır; sayfada bu farklar kırmızı notlarla gösterilir:
    • RoPE: konum, gömmeye vektör eklenerek değil, dikkatte Sorgu ve Anahtar döndürülerek işlenir.
    • GQA: dört sorgu başı tek bir anahtar/değer başını paylaşır.
    • RMSNorm: ortalamayı çıkarmayan, daha basit normalizasyon; her alt katmanın hem önünde hem arkasında.
    • GeGLU: kapılı MLP (GELU(kapı) × yukarı); sapma (bias) hiçbir katmanda yok.
    Sözlüğü 262 binden Türkçe ve İngilizcede kullanılan 49 bin parçaya indirildi; metnin başına <bos> koyar. Katmanlarının çoğu yalnızca son 512 token'a bakar (kayan pencere); buradaki kısa metinlerde bu fark etmez. Boyutu küçük olduğu ve parametrelerini birçok dil paylaştığı için Türkçesi zayıftır.
  • Küçük ve orta model aynı 50.257 token'lık sözlüğü kullanır; XGLM ve Gemma'nın sözlükleri farklıdır, aynı cümleyi başka parçalara böler.
  • Model sizin tarayıcınızda çalışır; hiçbir metin bir sunucuya gönderilmez.
  • Tarayıcıda çalışabilmesi için ağırlıklar 8 bite sıkıştırıldı (küçük model 600 MB yerine 210 MB, orta model 1,4 GB yerine 470 MB, XGLM 2,3 GB yerine 478 MB, Gemma 650 MB yerine 211 MB). İlk açılışta iner, sonra tarayıcıda saklanır.
  • Telefon ve tablette model indirilmez; hazır Türkçe örnekler gösterilir. Kendi cümlenizi yazmak için bilgisayardan açın.

Nasıl kullanılır?

  1. Üstteki kutuya en fazla 12 kelimelik bir Türkçe cümle yazın ve Üret'e basın.
  2. Ortadaki dikkat kutusunda bir kelimenin üzerine gelin: hangi kelimelere ne kadar baktığını görün. Okları kullanarak başlar ve bloklar arasında gezin (küçük modelde 12 baş ve 12 blok, orta modelde ve XGLM'de 16 ve 24, Gemma'da 4 ve 18).
  3. Sağdaki listede sıradaki kelime adaylarını görün; Sıcaklık ve Örnekleme (top-k, top-p) ayarlarıyla seçimin nasıl değiştiğini izleyin.

Unutmayın

Buradaki modellerin hepsi küçük; bugünün sohbet uygulamalarındaki modellerden binlerce kat küçük. Cevapları sık sık tuhaf, tekrarlı ya da yanlış olabilir. Amaç doğru cevap almak değil, bir dil modelinin içinde ne olduğunu görmek.

Atıf ve lisans

  • Transformer Explainer: Aeree Cho, Grace C. Kim, Alexander Karpekov, Seongmin Lee, Alec Helbling, Benjamin Hoover, Zijie J. Wang, Minsuk Kahng, Duen Horng Chau (Georgia Institute of Technology). MIT lisansı. Kaynak kod · Makale
  • Türkçe GPT-2: YTÜ Cosmos (ytu-ce-cosmos/turkish-gpt2 ve turkish-gpt2-medium), MIT lisansı.
  • XGLM: Lin vd., “Few-shot Learning with Multilingual Generative Language Models” (Meta AI, 2022), facebook/xglm-564M, MIT lisansı.
  • Gemma 3: Gemma Team, Google DeepMind, “Gemma 3 Technical Report” (2025), google/gemma-3-270m. Gemma is provided under and subject to the Gemma Terms of Use found at ai.google.dev/gemma/terms. Kullanım, Gemma Yasaklı Kullanım Politikası'na tabidir. Bu sayfadaki sürüm değiştirilmiştir: sözlük budandı, ağırlıklar 8 bite sıkıştırıldı ve ONNX'e aktarıldı.
  • Türkçe uyarlama: İstem Mühendisliği dersi, SDÜ Bilgisayar Mühendisliği · ders sitesi