Yerel olarak bir AI modeli nasıl yüklenir ve PC'nizde çevrimdışı kullanılır mı? Verilerinizi çevrimiçi olarak paylaşmadan Deepseek gibi önemli dil modellerini kullanabilmek ister misiniz? Bunları bilgisayarınızda yerel olarak yürütmek oldukça mümkündür. İşte nasıl.
Chatgpt, Lama, Mistral, Deepseek… Büyük Dil Modelleri (LLM) asla çiçeklenmeyi ve kendilerini rakipten daha iyi ilan etmeyi bırakmaz. Çoğu kullanıcıyı erişmek için çevrimiçi bir arayüze sunarsa, bu AI modellerinin kullanımı en sık çevrimiçi kayıt gerektirir.
Ancak bu çevrimiçi AI modellerinin kullanımı, verilerinizin korunması da dahil olmak üzere çeşitli sorular sorar. Bir yandan, kendilerine gönderdiğiniz talepler çoğunlukla yurtdışında sunuculardan geçer. Öte yandan, bu platformlar, bazı durumlarda, bunun üretebileceği tüm risklerle, örneğin paylaştığınız verilerle zayıf güvenli olabilir. Son zamanlarda Deepseek ile olan bu, teminatsız veritabanlarından biri bilgisayar korsanları tarafından tehlikeye atıldı. Sonuç olarak, belirli kullanıcıların taleplerinin geçmişi doğada, paylaşılan potansiyel kişisel veriler bulunmuştur.
Bu tür bir rahatsızlıktan kaçınmak için, bir web tarayıcısından ve bir internet bağlantısından geçmek zorunda kalmadan bu AI modellerini yürütmek mümkündür. Bunları PC'nizde yerel olarak çalıştırarak çevrimdışı kullanabilirsiniz. Ve oraya ulaşmak için kapsamlı bir bilgiye sahip olmanız gerekmez. Söz veriyorum, burada sipariş hattı talep edilmeyecek. İşte PC veya Mac'inizde yerel olarak Deepseek, ChatGPT veya başka bir büyük dil modelini yürütmek için bilmeniz gereken her şey.
1. LM Studio'yu indirin
En sevdiğiniz web tarayıcısını açın ve LM Studio'yu indirip yükleyerek başlayın. Bu ücretsiz, açık kaynak yardımcı programı Windows, MacOS ve Linux'ta mevcuttur.
Mükemmel bir şekilde yayan bir grafik arayüzüne sahiptir ve bilgisayarınızda çok sayıda büyük dil modeli indirmenize ve bunları internete bağlanmadan yerel olarak kullanmanıza olanak tanır. Ayrıca, seçilen AI modelinden, makinenizde yerel olarak depolanan belgelerinizle etkileşime girmeyi de sorabilirsiniz.
2. LM Studio'yu Yapılandırın
Kurulduktan sonra, makinenizde LM stüdyosunu açın. Açılıştan, program size ilk LLM'nizi indirmenizi sunacaktır. Bu yüzden düğmeye tıklayın İlk LLM'nizi alın.
© Haberler
Varsayılan olarak (Windows'ta), LM Studio size Vogue: Deepseek'teki son LLM'yi sunacak. Düğmeyi tıklayın İndirmek Dil modelinin indirilmesini başlatmak için.
© Haberler
LLM indirilirken, uygulama arayüzünü keşfetmeye başlayabilirsiniz. Tıklayın Yerleşik atış pencerenin sağ üstü veya üzerinde İndirmeniz devam ederken uygulamayı keşfedin.
© Haberler
3. Arayüzü keşfedin
Şimdi, AI modellerinizle ekranın altında ele geçirilmiş bir alanla sohbet etmenizi sağlayan LM Studio'nun ana penceresine gelmelisiniz. Pencerenin üstünde, bir düşüş menüsü Yüklenecek bir model seçin mevcut. Bu konuda, değiş tokuş edeceğiniz dil modelini seçmek ve yüklemek için tıklamanız gerekecek.
© Haberler
Solda, ilk sütun, borsalarınızın geçmişini kullanımda AI modeli ile kaydetmeyi amaçlamaktadır.
Pencerenin solunda, dördü, diğeri altta beş düğme bulacaksınız. İlk dördü sırasıyla sohbet etmenize, geliştirici moduna (AI sayesinde kodlamak için) erişmenize, yerel olarak indirilen dilin farklı modellerini yönetmenize ve son olarak yeni dil modellerini aramaya ve indirmenize izin verecektir.
Pencerenin sol alt kısmında görüntülenen son düğme, uygulama indirme yöneticisinden başkası değildir.
4. LLM'nizi yapılandırın
Artık ilk LLM'niz indirildiğine göre, bunu PC'nizde kullanabilecek şekilde yapılandırmanız gerekir. Bırakma menüsüne tıklayın Yüklenecek bir model seçin Pencerenin üstünde görüntülenir ve kullanılacak dil modelini seçin.
© Haberler
© Haberler
Görünen yeni pencere, dil modeline uygulanacak parametreleri seçmenizi sağlar. Ayarlarınız seçildikten sonra düğmeyi tıklayın Yük modeli.
© Haberler
5. Horsline AI modeli ile tartışın
Artık internete bağlı olmadan seçilen AI modeliyle sohbet etmeye başlayabilirsiniz. Makinenizin yapılandırmasına bağlı olarak, cevapların oluşturulması az çok uzun olabilir.
© Haberler
Ayrıca, pencerenin sağ alt kısmında görüntülenen araç çubuğundan LM Studio tarafından tekelleştirilen kaynaklara da göz atabilirsiniz.
6. Diğer AI modellerini indirin
LM Studio'nun avantajı, yardımcı programın bilgisayarınızda yerel olarak kullanabileceğiniz birçok farklı dil modelini indirmenize izin vermesidir. Diğer dil modellerini indirmek için, pencerenin solundaki mor büyüteç üzerindeki düğmeyi tıklayın.
© Haberler
Mevcut LLM listesini keşfedin veya doğrudan bu amaç için sağlanan arama alanında test etmek istediğiniz dil modelinin adını girin. Ardından, ayrıntılı bilgi sayfasını görüntülemek için seçtiğiniz LLM'yi seçin ve düğmeyi tıklayın İndirmek İndirmenizi başlatmak için.
Sonlandırılmış dil modeli indirildikten sonra, bunu yapılandırabilir (bkz. Adım 4) ve PC'nizde çevrimdışı kullanabilirsiniz.
Chatgpt, Lama, Mistral, Deepseek… Büyük Dil Modelleri (LLM) asla çiçeklenmeyi ve kendilerini rakipten daha iyi ilan etmeyi bırakmaz. Çoğu kullanıcıyı erişmek için çevrimiçi bir arayüze sunarsa, bu AI modellerinin kullanımı en sık çevrimiçi kayıt gerektirir.
Ancak bu çevrimiçi AI modellerinin kullanımı, verilerinizin korunması da dahil olmak üzere çeşitli sorular sorar. Bir yandan, kendilerine gönderdiğiniz talepler çoğunlukla yurtdışında sunuculardan geçer. Öte yandan, bu platformlar, bazı durumlarda, bunun üretebileceği tüm risklerle, örneğin paylaştığınız verilerle zayıf güvenli olabilir. Son zamanlarda Deepseek ile olan bu, teminatsız veritabanlarından biri bilgisayar korsanları tarafından tehlikeye atıldı. Sonuç olarak, belirli kullanıcıların taleplerinin geçmişi doğada, paylaşılan potansiyel kişisel veriler bulunmuştur.
Bu tür bir rahatsızlıktan kaçınmak için, bir web tarayıcısından ve bir internet bağlantısından geçmek zorunda kalmadan bu AI modellerini yürütmek mümkündür. Bunları PC'nizde yerel olarak çalıştırarak çevrimdışı kullanabilirsiniz. Ve oraya ulaşmak için kapsamlı bir bilgiye sahip olmanız gerekmez. Söz veriyorum, burada sipariş hattı talep edilmeyecek. İşte PC veya Mac'inizde yerel olarak Deepseek, ChatGPT veya başka bir büyük dil modelini yürütmek için bilmeniz gereken her şey.
1. LM Studio'yu indirin
En sevdiğiniz web tarayıcısını açın ve LM Studio'yu indirip yükleyerek başlayın. Bu ücretsiz, açık kaynak yardımcı programı Windows, MacOS ve Linux'ta mevcuttur.
Mükemmel bir şekilde yayan bir grafik arayüzüne sahiptir ve bilgisayarınızda çok sayıda büyük dil modeli indirmenize ve bunları internete bağlanmadan yerel olarak kullanmanıza olanak tanır. Ayrıca, seçilen AI modelinden, makinenizde yerel olarak depolanan belgelerinizle etkileşime girmeyi de sorabilirsiniz.
2. LM Studio'yu Yapılandırın
Kurulduktan sonra, makinenizde LM stüdyosunu açın. Açılıştan, program size ilk LLM'nizi indirmenizi sunacaktır. Bu yüzden düğmeye tıklayın İlk LLM'nizi alın.
© Haberler
Varsayılan olarak (Windows'ta), LM Studio size Vogue: Deepseek'teki son LLM'yi sunacak. Düğmeyi tıklayın İndirmek Dil modelinin indirilmesini başlatmak için.
© Haberler
LLM indirilirken, uygulama arayüzünü keşfetmeye başlayabilirsiniz. Tıklayın Yerleşik atış pencerenin sağ üstü veya üzerinde İndirmeniz devam ederken uygulamayı keşfedin.
© Haberler
3. Arayüzü keşfedin
Şimdi, AI modellerinizle ekranın altında ele geçirilmiş bir alanla sohbet etmenizi sağlayan LM Studio'nun ana penceresine gelmelisiniz. Pencerenin üstünde, bir düşüş menüsü Yüklenecek bir model seçin mevcut. Bu konuda, değiş tokuş edeceğiniz dil modelini seçmek ve yüklemek için tıklamanız gerekecek.
© Haberler
Solda, ilk sütun, borsalarınızın geçmişini kullanımda AI modeli ile kaydetmeyi amaçlamaktadır.
Pencerenin solunda, dördü, diğeri altta beş düğme bulacaksınız. İlk dördü sırasıyla sohbet etmenize, geliştirici moduna (AI sayesinde kodlamak için) erişmenize, yerel olarak indirilen dilin farklı modellerini yönetmenize ve son olarak yeni dil modellerini aramaya ve indirmenize izin verecektir.
Pencerenin sol alt kısmında görüntülenen son düğme, uygulama indirme yöneticisinden başkası değildir.
4. LLM'nizi yapılandırın
Artık ilk LLM'niz indirildiğine göre, bunu PC'nizde kullanabilecek şekilde yapılandırmanız gerekir. Bırakma menüsüne tıklayın Yüklenecek bir model seçin Pencerenin üstünde görüntülenir ve kullanılacak dil modelini seçin.
© Haberler
© Haberler
Görünen yeni pencere, dil modeline uygulanacak parametreleri seçmenizi sağlar. Ayarlarınız seçildikten sonra düğmeyi tıklayın Yük modeli.
© Haberler
5. Horsline AI modeli ile tartışın
Artık internete bağlı olmadan seçilen AI modeliyle sohbet etmeye başlayabilirsiniz. Makinenizin yapılandırmasına bağlı olarak, cevapların oluşturulması az çok uzun olabilir.
© Haberler
Ayrıca, pencerenin sağ alt kısmında görüntülenen araç çubuğundan LM Studio tarafından tekelleştirilen kaynaklara da göz atabilirsiniz.
6. Diğer AI modellerini indirin
LM Studio'nun avantajı, yardımcı programın bilgisayarınızda yerel olarak kullanabileceğiniz birçok farklı dil modelini indirmenize izin vermesidir. Diğer dil modellerini indirmek için, pencerenin solundaki mor büyüteç üzerindeki düğmeyi tıklayın.
© Haberler
Mevcut LLM listesini keşfedin veya doğrudan bu amaç için sağlanan arama alanında test etmek istediğiniz dil modelinin adını girin. Ardından, ayrıntılı bilgi sayfasını görüntülemek için seçtiğiniz LLM'yi seçin ve düğmeyi tıklayın İndirmek İndirmenizi başlatmak için.
Sonlandırılmış dil modeli indirildikten sonra, bunu yapılandırabilir (bkz. Adım 4) ve PC'nizde çevrimdışı kullanabilirsiniz.
Herhangi bir 01net haberini kaçırmamak için bizi Google News ve WhatsApp'ta takip edin.