2026'da kurumsal en iyi açık ağırlıklı LLM'ler: hangisi dağıtılmalı?

2026'da çoğu kurum için açık ağırlıklı kısa liste şudur: Qwen 3 (Apache 2.0, 119 dil, 32B'ye kadar dense ve 235B'ye kadar MoE modeller), en geniş araç desteği için Llama 3.3 70B veya Llama 4, bir 8 GPU'lu H200 veya B200 düğümünde sınır sınıfı akıl yürütme için DeepSeek V3 veya R1 (MIT), güçlü Avrupa dili kapsamına sahip maliyet açısından verimli asistanlar için Mistral Small 3.x, tek GPU'lu dağıtımlar için Gemma 3 27B ve küçük şirket içi veya uç kullanım için Phi-4. Önce kendi görev değerlendirmelerinizi çalıştırarak seçim yapın, ardından herkese açık lider tablosu sıralaması yerine lisans koşullarına, dil kapsamına, donanım uyumuna ve ekosistem desteğine göre filtreleyin. Aşağıdaki rakamlar 2026 itibarıyla yaklaşıktır; karar vermeden önce güncel model kartını ve lisans metnini kontrol edin.

2026'da açık ağırlıklı LLM manzarası

"Açık ağırlıklı" (open-weight), tedarikçinin eğitilmiş parametreleri yayımladığı ve bunları kendi donanımınızda çalıştırabileceğiniz anlamına gelir. Bu her zaman "açık kaynak" anlamına gelmez: Apache 2.0 ve MIT modelleri ruh itibarıyla Open Source Initiative tanımına uyarken, Llama ve Gemma; koşullu ticari kullanıma izin veren tedarikçi koşulları altında sunulur. Bu ayrım; yeniden dağıtım, türetilmiş isimlendirme, kullanım kısıtlamaları ve sürümler arasında koşulların değişme riski için önemlidir.

Tablo, 2026 itibarıyla kurumsal dağıtımlara hakim olan altı aileyi kapsar. MoE (uzman karışımı) modeller için etkin parametre sayısı gösterilir çünkü hesaplama maliyetini bu belirler, toplam parametreler ise belleği belirler. Bağlam pencereleri model kartı azamileridir ve nadiren pratik sunum sınırıdır.

Ayrıca OpenAI gpt-oss'u (20B ve 120B, Apache 2.0), Kimi K2'yi (değiştirilmiş MIT), GLM-4.5'i (MIT) ve NVIDIA Nemotron'u (NVIDIA Open Model License) da takip edin. Bu tablodaki her aile üretimde kullanılabilir; seçimi manşet kıyaslama sıralaması değil lisans, dil, donanım ve ekosistem belirler.

Lisans incelemesi: her aile size neler yapmanıza izin verir

İlk kıyaslamayı çalıştırmadan önce lisansı okuyun, çünkü bir lisans sorunu mühendisliğin çözemeyeceği tek sorundur. Tablo bir özettir, hukuki tavsiye değildir; koşullar sürümler arasında değiştiğinden (DeepSeek, V3'ü 2025'te MIT'e taşıdı ve Mistral, Large 2 yalnızca araştırma amaçlı olduktan sonra Large 3'ü Apache 2.0 altında yayımladı) güncel lisans metnini tedarikçinin sitesinde kontrol edin.

Üç kontrol çoğu sorunu yakalar: lisans sahibinin kim olduğunu doğrulayın (Llama 4'ü değerlendiren AB merkezli bir şirket, çok modlu maddeyi hukuk danışmanıyla okumalıdır), ne göndereceğinizi doğrulayın (bir iç asistan, ince ayarlı ağırlıkları yeniden dağıtan bir üründen daha az yükümlülük taşır) ve lisans sürümünü ile model commit hash'ini mimari karar kaydınıza (architecture decision record) not edin. Apache 2.0 ve MIT modelleri (Qwen 3, DeepSeek, güncel Mistral, Phi-4) hukuki incelemeyi asgariye indirir; Llama ve Gemma çalışabilir ancak koşullarının belgelenmiş bir okumasını gerektirir.

Donanım uyumu: her aileyi sunmak için gerekenler

Ağırlıklar tabanı belirler: FP16'da parametre başına yaklaşık 2 bayt, FP8'de 1 bayt ve INT4'te 0.5 bayt, dolayısıyla 70B bir model kabaca 140 GB, 70 GB veya 38 GB ağırlıktır. Gerçekçi eşzamanlılık ve bağlamda KV önbelleği için yüzde 20 ila 50 ekleyin, 64K ve üzeri bağlamlar için daha fazlasını. MoE modelleri için bellek toplam parametreleri izler (tüm uzmanlar bellekte kalır), token başına hesaplama ise etkin parametreleri izler; bu yüzden Qwen3-235B-A22B, aynı düğümde Llama 3.1 405B'den daha hızlı token üretir.

Bunu 2026 itibarıyla kurumların satın aldığı NVIDIA parçalarına eşleyin: H100 80 GB HBM3, H200 141 GB HBM3e, yaklaşık 180 GB HBM3e'li B200 ve 96 GB GDDR7'li RTX PRO 6000. Bir H200 veya RTX PRO 6000, FP8'de bir 70B modeli pay bırakarak sunar; bir H100, FP16'da 24B-32B dense modelleri veya INT4'te 70B'yi sunar. 671B sınıfı modeller (DeepSeek V3/R1, Mistral Large 3), doğal FP8'de 8 GPU'lu bir H200 veya B200 düğümüne ihtiyaç duyar; 8× H100'lük bir düğümde 640 GB vardır, bu FP8 ağırlıkları artı önbellek için yeterli değildir, dolayısıyla INT4 veya ikinci bir düğüm gerekir. Model başına GPU sayıları ve tensor-parallel düzenleri 70B, 405B ve DeepSeek R1 için kaç GPU gerekir? yazısındadır.

Küçük modeller ekonomiyi değiştirir: Phi-4 14B, Gemma 3 12B, Qwen3 8B ve INT4'te Mistral Small 24B, hepsi 24 GB'a sığar; bu da bir H100'de MIG dilimleri, tek bir RTX PRO kartı veya mevcut iş istasyonu GPU'ları anlamına gelir. Model sınıfını, zirve eşzamanlılıkta KV önbellek payı bırakan en küçük GPU katmanıyla eşleştirin; vLLM vs TensorRT-LLM vs Ollama vs SGLang yazısında karşılaştırılan sunum yığını daha sonra verime karar verir.

Nasıl seçilir: beş adımlı bir seçim yöntemi

Herkese açık lider tabloları kısa liste oluşturmaya yardımcı olur ve nihai karar için güvenilmezdir: sizin olmayan istemler, diller ve görevler kullanırlar ve eğitim verisi kirlenmesi bazı puanları şişirir. Aşağıdaki yöntem, Nanobase AI'ın model seçimi projelerinde kullandığı yöntemdir; tipik bir kurum için iki ila dört hafta sürer.

1. Kendi verinizden bir görev kıyaslaması oluşturun. Görev başına 200 ila 500 gerçek örneği (destek talepleri, sözleşmeler, kod incelemeleri, SQL soruları) referans yanıtlarla toplayın. Adayları dağıtacağınız aynı istemler, sunum yığını ve kuantizasyonla puanlayın. Doğruluğu, hedef eşzamanlılıkta gecikmeyi ve milyon token başına maliyeti takip edin.
2. Lisans incelemesini yapın. Kısa listeye alınan her modeli kullanımınıza eşleyin: iç araç, müşteriye dönük ürün, ince ayarlı türev veya yeniden dağıtılan ağırlıklar. Kuruluş yerleşim yerini, MAU eşiklerini, atıf ve kabul edilebilir kullanım yükümlülüklerini not edin ve pilottan önce hukuktan yazılı onay alın.
3. Gerçekten sunduğunuz dilleri test edin. "119 dili destekler" iddiası, Türkçe hukuki metinde veya Almanca teknik kılavuzlarda kalite hakkında hiçbir şey söylemez. Token'laştırıcı verimliliğini de ölçün: İngilizce'nin kelime başına iki ila üç katı token gerektiren bir dil, orantılı olarak daha fazlaya mal olur ve bağlamı daha hızlı tüketir.
4. Donanım uyumunu doğrulayın. Zirve eşzamanlılık ve bağlamda ağırlıkları artı KV önbelleğini hesaplayın ve planlanan kuantizasyonun kıyaslamanızı üzerinde anlaşılan bir toleransın (tipik olarak 1 ila 2 puan) ötesinde düşürmediğini doğrulayın. Tedarikçi tarafından yayımlanmış FP8 veya INT4 kontrol noktalarına sahip modelleri tercih edin.
5. Ekosistem desteğini kontrol edin. vLLM, TensorRT-LLM veya NVIDIA NIM'de ilk günden destek, çalışan bir sohbet ve araç çağırma şablonu, güvenlik sınırı entegrasyonları ve ince ayar tarifleri olduğunu doğrulayın. Ekosistemin zayıf desteklediği bir model, kalitede tasarruf ettirdiğinden daha fazlasını mühendislikte harcatır.

Uygulamaları değiştirmeden modelleri değiştirebilmeniz için modelden bağımsız bir API katmanının arkasında bir pilotla kapatın. Önce kıyaslayın, çünkü çoğu adayı ucuza eler, ardından hayatta kalanlara filtre olarak lisans, dil, donanım ve ekosistemi uygulayın.

Senaryoya göre öneriler

Bu kısa listeler, NVIDIA GPU'larında kendi kendine barındırmayı varsayar ve yöntemin birinci adımına girdi niteliğindedir, nihai yanıt değildir.

Genel kurumsal asistan (sohbet, özetleme, RAG)

Qwen3-32B veya Llama 3.3 70B ile başlayın; ikisinin de olgun araç çağırma şablonları, güvenilir RAG davranışı ve geniş ince ayar araçları vardır. Tek bir düğümün birçok eşzamanlı kullanıcıya ucuza hizmet vermesi gerekiyorsa, Qwen3-30B-A3B veya Mistral Small 3.x, hesaplamanın çok küçük bir kesriyle 32B'ye yakın kalite verir. Görsel girdi önemliyse Gemma 3 27B en iyi tek-H100 seçeneğidir. İnce ayara ihtiyaç olup olmadığı RAG vs ince ayar yazısında ele alınmıştır.

Çok dilli iş yükleri

Qwen 3 (119 dil) ve Gemma 3 (ön eğitimde 140'tan fazla), en geniş beyan edilen kapsamına sahiptir; Mistral Small 3.x, Fransızca, Almanca, İspanyolca, İtalyanca ve diğer Avrupa dilleri için en güçlüdür; Llama 4 resmi olarak 12 dili kapsar. DeepSeek İngilizce ve Çince'de en güçlüdür ve Phi-4 önce İngilizce'dir, dolayısıyla ikisi de çok dilli kullanımdan önce dikkatli kıyaslama gerektirir. Sayıya güvenmek yerine belirli dili test edin.

Akıl yürütme ve ajanlar

DeepSeek R1 ve V3.1/V3.2 (MIT), 2026 itibarıyla referans açık ağırlıklı akıl yürütme modelleridir ve ajan kalitesi geliri belirlediğinde bir 8× H200 düğümünü haklı çıkarır. Thinking modunda Qwen3-235B-A22B en erişilebilir alternatiftir ve FP8'de 4× H100'e sığar; Qwen3-32B thinking modu ve Magistral Small 24B tek GPU katmanını kapsar. Ajanlar için, yalnızca akıl yürütme kalitesini değil, sunum yığınınızdaki araç çağırma güvenilirliğini ve yapılandırılmış çıktı desteğini de kontrol edin.

Küçük şirket içi ve uç dağıtımlar

Tek bir 24-48 GB GPU veya bir MIG dilimi için Phi-4 14B (MIT), Gemma 3 12B, Qwen3 8B veya 14B ve INT4'te Mistral Small 3.x arasından seçin. Bunun altında, Phi-4-mini 3.8B, Gemma 3 4B ve 3n, Qwen3 4B ve Ministral 3, dizüstü bilgisayarlarda, CPU'larda ve NPU'larda çalışır. Küçük modeller, ayıracak daha az genel kapasiteleri olduğu için görev ince ayarından en fazla kazancı sağlar.

Kod üretimi ve incelemesi

Qwen3-Coder (tek GPU için 30B-A3B, bir düğüm için 480B-A35B) ve Qwen2.5-Coder-32B en güvenli Apache 2.0 seçenekleridir. DeepSeek V3.x, donanım bütçesi izin verdiğinde ajansal kodlama için en güçlüsüdür. Devstral Small (Apache 2.0), ajan tarzı depo görevlerini hedeflerken, Codestral üretim kullanımı için ticari bir sözleşme gerektirir. Qwen 3, lisansı, boyut aralığı ve dil kapsamı nedeniyle her kısa listede yer alır; bu yüzden çoğu 2026 seçiminde öntanımlı adaydır.

Model güncelleme sıklığı ve sürüm sabitleme

Açık ağırlıklı aileler artık yazılım benzeri bir sıklıkla yayımlanıyor. 2026 itibarıyla Meta, aralarında küçük sürümler olacak şekilde kabaca her 6 ila 12 ayda bir büyük bir Llama sürümü yayımlıyor; Alibaba, Qwen güncellemelerini birkaç haftada bir gönderiyor (tarihli anlık görüntüler artı Coder, VL ve Next varyantları); DeepSeek, her 2 ila 4 ayda bir bir V3 veya R1 revizyonu gönderdi; Mistral, Google ve Microsoft her biri yılda birkaç güncelleme yayımlıyor. Aynı aile adı altındaki yeni bir anlık görüntü; token'laştırıcı davranışını, sohbet şablonunu, araç çağırma biçimini ve çıktı stilini değiştirebilir.

Modeli sürümlü bir bağımlılık olarak ele alın: dağıtım manifestonuzda tam Hugging Face revizyonunu (commit hash) sabitleyin, geri dönüş için önceki sürümü dağıtılabilir tutun ve terfi öncesinde her aday güncellemede birinci adım kıyaslamasını yeniden çalıştırın. Kısa listeyi üç ayda bir gözden geçirin.

vllm serve Qwen/Qwen3-32B \
  --revision <commit-sha-from-model-card> \
  --served-model-name assistant-v3 \
  --max-model-len 32768

Commit hash'e göre sabitleme ve her güncellemede yeniden kıyaslama, hızla değişen bir model ekosistemini bir riskten bir avantaja dönüştürür.

Sıkça sorulan sorular

2026'da kurumsal kullanım için en iyi açık ağırlıklı LLM hangisi?

Tek bir en iyi model yoktur. 2026 itibarıyla Qwen 3, Apache 2.0 olması, 119 dili kapsaması ve 0.6B'den 235B'ye uzanması nedeniyle en yaygın öntanımlıdır; Llama 3.3 70B en geniş araç desteğine sahiptir; DeepSeek V3/R1 açık ağırlıklı akıl yürütmede öndedir; Mistral Small, Gemma 3 ve Phi-4 tek GPU katmanında kazanır. Kendi görevlerinizde kıyaslayın, ardından lisans, dil, donanım ve ekosisteme göre filtreleyin.

Açık ağırlıklı ve açık kaynaklı LLM'ler arasındaki fark nedir?

Açık ağırlıklı bir model, eğitilmiş parametrelerini indirme ve kendi kendine barındırma için yayımlar. OSI tanımı altında açık kaynaklı bir model ayrıca kısıtsız kullanım, değişiklik ve yeniden dağıtım hakkı verir ve ideal olarak eğitim verisini belgeler. Qwen 3, DeepSeek ve Phi-4 gibi Apache 2.0 ve MIT modelleri lisans anlamında açık kaynaktır; Llama ve Gemma, koşullu ticari kullanıma izin veren tedarikçi koşulları altında açık ağırlıklıdır.

Llama 4'ü Avrupa Birliği'nde ticari olarak kullanabilir miyim?

Llama 4 Community License, çok modlu modeller üzerindeki hakların, Avrupa Birliği'nde yerleşik bireylere veya esas iş yeri Avrupa Birliği'nde olan şirketlere verilmediğini belirtir. Llama 4 Scout ve Maverick doğal olarak çok modludur, dolayısıyla AB merkezli kuruluşlar bu maddeyi bir hukuk danışmanıyla incelemeli ve güncel lisans metnini kontrol etmelidir. Llama 3.x'te böyle bir kısıtlama yoktur ve Qwen 3, Mistral ve DeepSeek bundan etkilenmez.

DeepSeek'i şirket içinde dağıtmak güvenli mi?

DeepSeek V3 veya R1'i kendi kendine barındırmak tüm veriyi altyapınızın içinde tutar ve MIT lisansı hiçbir kullanım raporlama veya veri paylaşım yükümlülüğü taşımaz. Güvenlik çalışması herhangi bir model için olduğu gibidir: kontrol noktası bütünlüğünü resmi depodan doğrulayın, kendi güvenlik ve önyargı değerlendirmelerinizi çalıştırın ve sunum katmanında güvenlik sınırları ile günlüklemeyi uygulayın. Gerçek kısıtlama donanımdır, çünkü 671B modeller bir 8× H200 veya B200 düğümüne ihtiyaç duyar.

70B bir model ne kadar GPU belleğine ihtiyaç duyar?

FP16'da yaklaşık 140 GB ağırlık, FP8'de 70 GB ve INT4'te kabaca 38 GB, artı üretim eşzamanlılığında yüzde 20 ila 50 KV önbellek payı. Pratikte bu, FP16'da iki H100 80 GB GPU veya FP8'de bir H200 141 GB ya da bir RTX PRO 6000 96 GB anlamına gelir. 32K üzerindeki bağlamlar ve yüksek eşzamanlılık KV önbelleğini daha da yükseltir, dolayısıyla ortalama değil zirve yük için boyutlandırın.

Dense bir model mi yoksa bir mixture-of-experts modeli mi seçmeliyim?

Qwen3-235B-A22B ve DeepSeek V3 gibi MoE modelleri, token başına parametrelerin yalnızca bir kesri etkin olduğundan hesaplama birimi başına daha fazla kalite verir, ancak her uzman GPU belleğinde oturmalıdır. Llama 3.3 70B ve Qwen3-32B gibi dense modeller ince ayar ve kuantizasyon açısından daha basittir. Bellek uygunsa ve verim önemliyse MoE'yi, basitlik için dense'i seçin.

Seçtiğimiz modeli ne sıklıkla yeniden değerlendirmeliyiz?

Üç ayda bir tam bir yeniden değerlendirme ve tedarikçi dağıttığınız modelin yeni bir anlık görüntüsünü her gönderdiğinde veya bir rakip, kıyaslamanızın önemli ölçüde daha iyi olduğunu gösterdiği bir sürüm yayımladığında hedefli bir değerlendirme çalıştırın. Dağıtılan modeli commit hash'e göre sabitleyin, geri dönüş için önceki sürümü hazır tutun ve orijinal seçim için kullanılan aynı görev kıyaslamasını geçmemiş bir güncellemeyi asla terfi ettirmeyin.

Nanobase AI nasıl yardımcı olabilir

Nanobase AI, kurumların açık ağırlıklı LLM'leri uçtan uca seçmesine, lisans incelemesi yapmasına ve dağıtmasına yardımcı olur: kendi verinizden görev kıyaslamaları oluşturmak, Llama, Qwen, DeepSeek, Mistral, Gemma ve Phi adaylarını aynı sunum yığınında yan yana çalıştırmak, H100, H200, B200 veya RTX PRO altyapısını boyutlandırmak ve kazananı vLLM, TensorRT-LLM veya NVIDIA NIM, RAG hatları, ince ayar ve SAP, Salesforce ile Microsoft 365'e MCP entegrasyonlarıyla üretime almak. Silikon Vadisi merkezli bir şirket ve NVIDIA Inception Programı üyesi olarak, canlıya geçtikten sonra da değerlendirme altyapısını yerinde tutarız, böylece her model güncellemesi terfi öncesinde yeniden test edilir. Kıyaslamayı kendi verinizle çalıştırmak için çözümlerimize göz atın veya bir canlı demo rezervasyonu yapın.

Projenizi görüşmeye hazır mısınız? Nanobase AI ile iletişime geçin veya hello@bumu.tech adresine e-posta gönderin.