OPML: İyimserlik yöntemine dayalı Blok Zinciri makine öğrenimi sistemi
OPML(İyimserlik Makine Öğrenimi), düşük maliyetli ve yüksek verimli AI model çıkarımı ve eğitimi gerçekleştirebilen yeni bir Blok Zinciri sistemidir. ZKML ile karşılaştırıldığında, OPML'nin donanım gereksinimleri daha düşüktür, hatta sıradan bir PC'de 7B-LLaMA gibi büyük dil modelleri çalıştırılabilir.
OPML, ML hizmetlerinin merkeziyetsizliğini ve doğrulanabilirliğini sağlamak için bir doğrulama oyun mekanizması kullanmaktadır. Temel süreçleri şunlardır:
Talep eden ML görevini başlatır
Sunucu görevi tamamladı ve sonucu blok zincirine gönderdi
Doğrulayıcı sonuçları kontrol eder, eğer itiraz varsa doğrulama oyununu başlatır.
İki taraflı protokolle tartışmalı adımları hassas bir şekilde belirlemek
Son olarak, akıllı sözleşme tarafından tek bir adımın hakemliği
Verimli bir zincir dışı yürütme ve zincir içi tahkim sağlamak için, OPML özel bir sanal makine ve hafif DNN kütüphanesi oluşturdu ve AI çıkarım kodunu VM talimatlarına derlemek için çapraz derleme teknolojisi kullandı. VM durumu, yalnızca kök hash'inin zincire eklendiği Merkel ağacı ile yönetilmektedir.
Tek aşamalı OPML'nin sınırlamaları, tüm hesaplamaların VM içinde tamamlanması gerektiğidir ve GPU hızlandırması kullanılamaz. Bu nedenle, OPML çok aşamalı bir protokole genişletilmiştir:
aşamada yerel ortamda hesaplama grafiği düğümü hesaplamaları gerçekleştirilir, GPU kullanılabilir.
aşamada tek bir düğüm hesaplaması VM talimat yürütmesine dönüştürülecek
Çok aşamalı OPML, tek aşamalıya kıyasla α kat hesaplama hızlandırması sağlayabilir, α onlardan birkaç katına kadar ulaşabilir. Aynı zamanda Merkle ağacının boyutu O(mn)'den O(m+n)'e düşer.
Sonuç tutarlılığını sağlamak için, OPML sabit nokta algoritması ve yazılım kayan nokta kütüphanesi kullanarak farklı platformlardaki kayan nokta hesaplama farklılıklarını çözmüştür.
Genel olarak, OPML, blok zincirindeki makine öğrenimi için verimli, düşük maliyetli ve doğrulanabilir bir çözüm sunmaktadır ve geniş uygulama potansiyeline sahiptir.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
11 Likes
Reward
11
3
Share
Comment
0/400
MevWhisperer
· 19h ago
Makine öğrenimi zincire mi alındı?
View OriginalReply0
ApeWithNoFear
· 20h ago
Biraz ilginç.
View OriginalReply0
BakedCatFanboy
· 20h ago
Güvenilir olup olmadığını bilen biri anlatabilir mi?
OPML: Blok Zinciri üzerindeki düşük maliyetli verimli AI model eğitimi ve çıkarım sistemi
OPML: İyimserlik yöntemine dayalı Blok Zinciri makine öğrenimi sistemi
OPML(İyimserlik Makine Öğrenimi), düşük maliyetli ve yüksek verimli AI model çıkarımı ve eğitimi gerçekleştirebilen yeni bir Blok Zinciri sistemidir. ZKML ile karşılaştırıldığında, OPML'nin donanım gereksinimleri daha düşüktür, hatta sıradan bir PC'de 7B-LLaMA gibi büyük dil modelleri çalıştırılabilir.
OPML, ML hizmetlerinin merkeziyetsizliğini ve doğrulanabilirliğini sağlamak için bir doğrulama oyun mekanizması kullanmaktadır. Temel süreçleri şunlardır:
Verimli bir zincir dışı yürütme ve zincir içi tahkim sağlamak için, OPML özel bir sanal makine ve hafif DNN kütüphanesi oluşturdu ve AI çıkarım kodunu VM talimatlarına derlemek için çapraz derleme teknolojisi kullandı. VM durumu, yalnızca kök hash'inin zincire eklendiği Merkel ağacı ile yönetilmektedir.
Tek aşamalı OPML'nin sınırlamaları, tüm hesaplamaların VM içinde tamamlanması gerektiğidir ve GPU hızlandırması kullanılamaz. Bu nedenle, OPML çok aşamalı bir protokole genişletilmiştir:
Çok aşamalı OPML, tek aşamalıya kıyasla α kat hesaplama hızlandırması sağlayabilir, α onlardan birkaç katına kadar ulaşabilir. Aynı zamanda Merkle ağacının boyutu O(mn)'den O(m+n)'e düşer.
Sonuç tutarlılığını sağlamak için, OPML sabit nokta algoritması ve yazılım kayan nokta kütüphanesi kullanarak farklı platformlardaki kayan nokta hesaplama farklılıklarını çözmüştür.
Genel olarak, OPML, blok zincirindeki makine öğrenimi için verimli, düşük maliyetli ve doğrulanabilir bir çözüm sunmaktadır ve geniş uygulama potansiyeline sahiptir.