Kayıtlar

llm etiketine sahip yayınlar gösteriliyor

Local LLM çalıştırmak için donanım maliyetleri

Resim
  "Square Pc" kanalı tarafından 10 Mart 2026 tarihinde yayınlanan bu videoda, yerel Büyük Dil Modelleri (Local LLM) çalıştırmak için donanım maliyetleri kıyaslanıyor ve özellikle Apple'ın Mac Studio modellerinin neden en ekonomik seçenek haline geldiği anlatılıyor. İşte videodan öne çıkan başlıklar: Mac Studio vs. RTX 5090 Maliyet Karşılaştırması Mac Studio Ekonomik Seçenek:  Videoyu çeken kişi, Mac Studio Ultra (512 GB RAM) modelinin, benzer kapasitede bir PC kurmaya kıyasla "bütçe dostu" bir seçenek haline geldiğini iddia ediyor [ 02:13 ]. PC Kurulum Maliyeti:  512 GB VRAM kapasitesine ulaşmak için yaklaşık 16 adet RTX 5090 ekran kartına ihtiyaç duyulacağı, bunun da sadece kartlar için 32.000 dolar civarında bir maliyet ve devasa güç tüketimi (9 kW) anlamına geldiği belirtiliyor [ 06:03 ]. RAM Fiyatları:  Sunucu sınıfı RAM fiyatlarının (örneğin 512 GB) aşırı yükselerek 27.000 dolar seviyelerine çıktığına dikkat çekiliyor [ 05:09 ]. Model Performansı ve Teknik ...

Yerel LLM ile büyük bir kod tabanını analiz etme

Resim
  "Alex Ziskind" kanalında 13 Mart 2026 tarihinde yayınlanan bu videoda, büyük bir kod tabanını (yaklaşık 1 milyon token) yerel yapay zeka modelleriyle analiz etme deneyi anlatılıyor. Videoda, yerel modellerin yüksek bağlam penceresi (context window) iddiaları ve gerçek performansları test ediliyor. Videoda öne çıkan ana başlıklar şunlardır: Deneyin Amacı ve Hazırlık Gerçek Bir Kod Tabanı:  Alex, yıllardır üzerinde çalıştıkları, 1.600 dosyadan ve yaklaşık 307.000 satırdan oluşan devasa bir projeyi test için kullanıyor [ 00:09 ]. Güvenlik Taraması:  Temel amacı, kod içerisinde unutulmuş gizli anahtarları, şifreleri veya API anahtarlarını bulup temizlemektir [ 02:02 ]. Gizlilik ve Yerel Modeller:  Kodun gizliliği nedeniyle verileri bulut tabanlı (ChatGPT, Gemini vb.) sistemlere göndermek istemediği için yerel modelleri tercih ediyor [ 02:11 ]. Araç Kullanımı:  Kodları bir araya getirip "code map" oluşturmak için  RepoPrompt  adlı aracı kullanıyor. Bu ara...