Bakın, Silikon Vadisi’nin bu caddelerinde itiraf etmek istemeyeceğimden çok daha fazla dolandım. Gelen giden modaları gördüm, şirketlerin zirveye tırmanıp sonra yok olup gittiğini gördüm çünkü sürpriz, ortada gerçek bir iş modeli yoktu. Bu yüzden ‘TurboQuant: İlk Prensiplerle Adım Adım Anlatım’ başlıklı bir makale gördüğümde, BS (saçmalık) dedektörüm son ayara geçiyor. Sadece ‘vektörler’ ve ‘nicemleme’ gibi terimleri etrafa saçıp beni etkileyeceğini düşünmen yeterli değil. Neden bunun önemli olduğunu ve daha da önemlisi, kimin para kazandığını bilmem gerekiyor. Bu, bir girişimin başka bir VC yatırım turu güvence altına almasına mı yardımcı olacak, yoksa geliştiriciler ve kullanıcılar için gerçekten bir fark yaratacak bir şey mi?
Kim Ne Kapıyor?
Doğrudan konuya girelim. Temelde bu, büyük, kullanışsız bir veri yığınını alıp (favori yapay zeka modelinizin çıkardığı o devasa embedding’leri düşünün) depolanması ve işlenmesi daha kolay hale getirmek için sıkıştırmakla ilgili. Orijinal makale, vektörleri “orijinden çıkan oklar” olarak tanımlıyor ve “hatanın, bir tahminden gerçeğe olan uzaklık” olduğunu söylüyor. Hepsi iyi hoş. Noktalara tutunan 2D ve 3D ızgaraların güzel diyagramları, tabii. Dijital Lego gibi. Ama işte püf noktası: Bunu yapay zeka bağlamında konuştuğumuzda, genellikle modelleri küçültmekten bahsediyoruz ki telefonunuzda çalışabilsin, ya da ağ üzerinden daha az veri gönderilsin, ya da o acı verici derecede yavaş en yakın komşu aramaları biraz daha hızlansın. Genellikle para orada bulunur - bulut faturalarını düşüren verimlilik artışları veya yeni ürün kategorileri.
Makalenin kendisi birkaç temel kavramı ortaya koyuyor: tahmininizin ne kadar saptığını ölçmek için ortalama karesel hata (MSE), bir miktarın momentleri (temelde istatistiksel parmak izleri) ve ortalamada tahmin yönteminizin hedefi tutturduğu anlamına gelen yansız tahmin edici fikri. Hepsi, sıkıştırılmış verinizin orijinalinin makul derecede sadık bir temsilini sağladığına dair bir sürü matematiğe dayanıyor.
Hata, bir tahminden gerçeğe olan uzaklıktır. Bir tahmini işaretli hatayla puanlamak, pozitif ve negatif hataların birbirini götürmesini sağlar, bu da puanın sapmayı cezalandırmadığı anlamına gelir. Karesini almak, her hatayı pozitif bir sayı olarak saydırır ve büyük hataları küçük olanlardan daha fazla cezalandırır.
O karesini alma kısmı mı? İşte bu, büyük hatalardan dolayı ekstra çıldırmalarına neden olan şey. Yapay zekada büyük hatalar, bir sohbet botunun anlamsız şeyler gevelemesinden, bir öneri motorunun yalnızca köpek maması aradığınız halde size kedi süveterleri göstermesine kadar her şey olabilir. Yani, o karesel hatayı en aza indirmek, bilirsiniz, iyi bir şeydir. Yapay zekanızın hatırlaması gerekeni hatırlaması ile önemli olan her şeyi unutması arasındaki fark budur.
Sapma-Varyans Takası mı, Yoksa Sadece Daha Fazla Jargon mu?
Sonra tahminci işlerine geliyoruz. Sapma ve varyans. Okçuluk gibi düşünün. Sapma, oklarınızın hep hedef tahtasının on adım soluna düşmesidir, hepsi bir arada toplanmış olsa bile. Varyans, oklarınızın hedef tahtasına saçılmış olmasıdır, ancak ortalama konumları hedef tahtasıdır. Çoğu zaman bu şirketler ikisinden de kurtulmaya çalışır. Makale bu başarısızlık modlarını gösteren bir “hedef”ten bahsediyor. Harika. Ama yine, kim fayda sağlıyor? Eğer TurboQuant bu vektör temsillerindeki sapmayı ve varyansı gerçekten azaltırsa, bu yapay zeka modellerinizin daha doğru ve daha tutarlı olacağı anlamına gelir. Bu kesinlikle model geliştiricileri için bir kazanç. Ama asıl ödeme? O gelişmiş doğruluk ve tutarlılığın insanların ödemeye razı olacağı daha iyi kullanıcı deneyimlerine dönüşmesi veya verimlilik artışlarının şirketlerin daha büyük, daha karmaşık modelleri daha düşük maliyetle çalıştırmasını sağlamasıdır.
İçimdeki ses bana bunun yapay zeka modellerini daha küçük, daha hızlı ve çalıştırması daha ucuz hale getirmekle ilgili olduğunu söylüyor. Cihaz içi yapay zeka veya bodrumunuzda bir süper bilgisayar gerektirmeyen yapay zeka düşünün. Birçok işletme için yolun nereye gittiği burası.
Bu Sadece Yüksek Boyutlu Jargon mu?
Gerçekten de şüpheci gözüme çarpan şey, “yüksek boyutlu yoğunlaşma”dan bahsedilmesi. Sade dille, bu, süper yüksek boyutlarda (OpenAI’nin bahsettiği 1536 boyut gibi) işlerin tuhaflaştığı anlamına gelir. Yakın olması gereken noktalar uzakta görünebilir ve bunun tersi de olabilir. Standart sezginin çöktüğü yer burasıdır. Bu yüksek boyutlu vektörleri sınırlı sayıda “seviye” veya noktaya sabitleme işlemi olan nicemleme, gerçek bir zorluk olabilir. Eğer nicemleme yönteminiz bu yüksek boyutlu tuhaflığı hesaba katmazsa, pratikte işe yaramayan sıkıştırılmış bir temsille sonuçlanabilirsiniz.
Makale, TurboQuant’ın bununla başa çıkma yolları olduğunu öne sürüyor. Ancak soru hala devam ediyor: Mevcut yöntemlere kıyasla anlamlı bir gelişme sunuyor mu? Yeni bir tekniği entegre etme çabasına değecek kadar önemli kazanımlar var mı, yoksa bu sadece daha fazlası gibi sunulan başka bir artımlı adım mı? Ayı piyasasında vaat eden ve ayıyı getiren yeni sıkıştırma algoritmalarıyla bunu daha önce gördük. Gerçek test makalenin zarafeti değil; gerçek dünya performansı ve benimsemek için ekonomik teşviktir.
Teknoloji endüstrisinin şaşırtıcı bir hızla inovasyon (ve yatırımcı sunumları) ürettiği bir yerde, TurboQuant teknik olarak ilginç bir çalışma gibi görünüyor. Gerçek bir sorunu ele alıyor: yapay zeka verilerini daha yönetilebilir hale getirmek. Ancak ‘ilk prensipler’ ve ‘yürüyüş’ aynı zamanda ‘derinlemesine akademik, henüz üretime hazır değil’ için bir kod olabilir. Bu, gerçek dağıtılmış sistemlerde görülene, maliyetleri düşürene veya daha önce mümkün olmayan tamamen yeni yapay zeka uygulamalarını etkinleştirene kadar ihtiyatlı şüpheci kalacağım. Nihai soru ‘matematik ne kadar akıllı?’ değil, ‘bu birilerine, bir yerlerde ne kadar para kazandırıyor?’ Ve bu, dostlarım, Silikon Vadisi’nin en eski sorusu.
