İşNet, kurumların Kubernetes ortamlarını, GPU kaynaklarını ve yapay zeka modellerini tek bir platform üzerinden yönetmesine imkân tanıyan Gao Kaptan adlı platformu kullanıma sundu. Platform, self-servis yapısı ve kullandıkça öde modeliyle dikkat çekiyor.
Yapay zeka uygulamalarının yaygınlaşmasıyla birlikte Kubernetes tabanlı iş yükleri, GPU kapasitesi, depolama ve maliyet takibinin birlikte yönetilmesi ihtiyacı artıyor. İşNet, bu ihtiyaca yönelik olarak geliştirdiği Gao Kaptan platformunu devreye aldı. Platform, İşNet’in İstanbul’da bulunan ve TIER IV sertifikalı veri merkezi altyapısı üzerinde çalışıyor.
Gao Kaptan, Kubernetes operasyonlarını, GPU kaynaklarını ve platform bünyesindeki dil modelleriyle yapay zeka iş yüklerini tek platformdan yönetme imkânı sağlıyor. Geliştiriciler ve BT ekipleri, Kubernetes tabanlı uygulamalarını platform üzerinden devreye alabiliyor; GPU, CPU ve RAM kaynaklarını ihtiyaç doğrultusunda kullanabiliyor. Kaynaklar iş yüküne göre ölçeklendirilebiliyor, kullanılmayan kaynaklar ise uyku moduna alınarak kaynak kullanımı optimize ediliyor.
Konuya ilişkin değerlendirmede bulunan İşNet Proje Yönetimi ve Yazılım Geliştirme Grup Müdürü Şeyda Polat şöyle konuştu:
“Kurumların yapay zeka ve bulut projeleri büyüdükçe Kubernetes ortamlarının, GPU kapasitesinin ve altyapı maliyetlerinin etkin biçimde yönetilmesi önemli bir ihtiyaç hâline geliyor. Kurumlar artık güçlü bir bulut altyapısının yanı sıra bu altyapıyı kolayca yönetebilecekleri, kaynak kullanımını izleyebilecekleri, optimize edecekleri ve yatırımlarının geri dönüş süresine ilişkin öngörü elde edebilecekleri akıllı platformlara ihtiyaç duyuyor. Gao Kaptan’ı, geliştiricilerin ve BT ekiplerinin ileri düzey Kubernetes uzmanlığına ihtiyaç duymadan uygulamalarını devreye alabilecekleri, yapay zeka modellerine ve GPU kaynaklarına hızla erişebilecekleri bir platform olarak geliştirdik. Böylece operasyonel süreçleri sadeleştirmeyi, geliştirme süreçlerini hızlandırmayı ve ekiplerin yenilikçi projelere daha fazla zaman ayırmasını hedefliyoruz.”
Self-Servis Erişim Modeli
Platformun self-servis yapısı sayesinde kurumlar, satış süreci veya onay adımlarına ihtiyaç duymadan doğrudan erişebiliyor. Kullanıcılar web üzerinden birkaç adımda kayıt olarak hesap oluşturabiliyor, bakiye yükleyerek GPU kaynaklarını ve yapay zeka modellerini kullanmaya başlayabiliyor. Bu yapı, uzun tedarik ve onboarding süreçlerine gerek kalmadan geliştirme ortamlarının kurulmasına imkân tanıyor.
Kubernetes Operasyonları ve Depolama
Platform, kullanıcıların konteyner ve pod’ları oluşturmasını, yönetmesini, durdurmasını ve yeniden çalıştırmasını sağlıyor. Canlı log takibi, tanılama ve web terminali özellikleriyle uygulamaların çalışma durumu platform üzerinden izlenebiliyor. Port yönlendirme ve kalıcı URL özellikleri servislere internet üzerinden erişim sağlarken, API desteğiyle platform kurumların mevcut sistemlerine entegre edilebiliyor.
Depolama tarafında platform üzerinden kalıcı depolama alanları oluşturulabiliyor ve yönetilebiliyor. Otomatik senkronizasyon, anlık görüntü (snapshot) alma, zamanlanmış yedekleme ve tek komutla geri yükleme özellikleri sunuluyor.
Yapay Zeka Modelleri ve GPU Erişimi
Gao Kaptan, açık kaynaklı yapay zeka modellerinin doğrudan kullanılmasına ve mevcut uygulamalara entegre edilmesine olanak tanıyor. OpenAI ile uyumlu API desteği sayesinde uygulamalar farklı büyük dil modelleriyle çalışabiliyor. NVIDIA GPU kaynakları iş yüklerine otomatik olarak atanırken, MIG (Multi-Instance GPU) desteğiyle yüksek kapasiteli GPU kaynakları farklı iş yükleri arasında izole biçimde paylaşılabiliyor. Platform içindeki yapay zeka asistanı, kullanıcıların işlem adımlarını tamamlamasına yardımcı oluyor.
Maliyetlendirme Modeli
Gao Kaptan’da kullanıcılar, LLMaaS hizmetinde kullandıkları token sayısı üzerinden, GPU hizmetinde ise saatlik kullanım süresi üzerinden ücretlendiriliyor. Kullanıcılar bakiye, kullanım geçmişi, maliyet ve faturalama bilgilerini tek ekrandan takip edebiliyor.
