← Blog
·Yapay Zeka·9 dk okuma

biLorentzFM: Öneri Sistemlerinde Öklid’in Ötesi

Düz bir kağıda bir ağaç çizmeye çalıştığınızda dallar birbirine girer. Ama eğri bir yüzeye çizdiğinizde her dal kendi alanını bulur. Peki ya iş dünyasındaki hiyerarşiler de böyle…

Düz bir kağıda bir ağaç çizmeye çalıştığınızda dallar birbirine girer. Ama eğri bir yüzeye çizdiğinizde her dal kendi alanını bulur. Peki ya iş dünyasındaki hiyerarşiler de böyle bir yüzeye ihtiyaç duyuyorsa?

Escher’in ünlü “Circle Limit” gravürlerini hatırlıyor musunuz? Bir dairenin içine sığdırılmış, merkeze doğru büyüyen ve kenarlara doğru sonsuz küçülen balık figürleri. Escher aslında farkında olmadan hiperbolik geometrinin bir temsilini çiziyordu — sonsuzluğu sonlu bir alana sığdıran, dallanmaları doğal yollarla temsil eden bir geometriyi.

Ben de doktora tezimde tam olarak bu soruyla yüzleştim: İş öneri sistemleri neden hâlâ bir kıdemli mühendisi stajyer pozisyonuna, bir stajyeri de CTO rolüne “benzer” olarak önerebiliyor?

Cevap, aslında geometrinin kendisinde gizliydi.

Bu yazıda, Applied Sciences dergisinde yayınlanan biLorentzFM çalışmamı — hiperbolik geometriyi bilmeyenler için de anlaşılır olacak şekilde — anlatmak istiyorum.

Önce Problemi Anlayalım: İki Taraflı Eşleştirme Nedir?

Netflix size bir film önerdiğinde, sadece sizin beğenmeniz yeterlidir. Film zaten itiraz etmez.

Ama bir iş platformunda durum farklıdır. Bir adayın bir ilana başvurması yetmez — şirketin de o adayı beğenmesi gerekir. Bu, “reciprocal recommendation” yani karşılıklı öneri problemidir. İki tarafın da mutlu olması lazım.

Kariyer.net’te her gün milyonlarca aday-ilan etkileşimi yaşanıyor. Her etkileşimde iki soru var: Aday bu ilana uygun mu? Şirket bu adayı istiyor mu? İki soruyu aynı anda, aynı modelde, optimize etmek — işte asıl zorluk burada.

Peki Geometri Neden Önemli?

Şimdi bir düşünce deneyi yapalım.

Bir şirketin organizasyon şemasını düşünün: CEO en üstte, altında direktörler, onların altında müdürler, sonra uzmanlar, en altta stajyerler. Bu bir ağaç yapısı — yukarıdan aşağıya, her seviyede dallanarak genişliyor.

Şimdi bu ağacı düz bir kağıda (yani Öklid uzayına) çizmeye çalışın. Birkaç seviye sonra dallar birbirine girmeye başlar, çünkü düz uzayda alan doğrusal büyür ama ağaçtaki düğüm sayısı üstel büyür. 10 seviyeli bir ağaçta 1024 yaprak var — hepsini düzlemde eşit mesafeyle göstermek imkansız.

İşte Sarkar’ın 2011'deki temel teoremi tam burada devreye giriyor: n düğümlü bir ağacı Öklid uzayında düşük bozulmayla gömmek için O(n log n) boyut gerekir. Hiperbolik uzayda ise O(log n) boyut yeter.

Neden? Çünkü hiperbolik uzayda alan üstel büyür — tıpkı ağacın kendisi gibi. Geometri ile veri yapısı örtüşünce, temsil doğal ve verimli olur.

Hiperbolik Geometri 101: Eğri Uzayın Kısa Tarihi

Hiperbolik geometri kulağa zor gelebilir ama temeli aslında basit bir sezgiye dayanıyor.

Okul yıllarından hatırlayın: Öklid geometrisinde bir doğru üzerindeki bir noktadan, o doğruya paralel tek bir doğru çizebilirsiniz. Bu, düz yüzeylerin kuralıdır.

Hiperbolik geometride ise aynı noktadan sonsuz sayıda paralel doğru çizebilirsiniz. Bu, negatif eğrilikli bir yüzeyin — bir eyer yüzeyi ya da bir Pringles cipsi gibi düşünebilirsiniz — kuralıdır.

Bu “fazladan alan”, hiperbolik uzayı hiyerarşik veriler için ideal kılar. Her dallanma noktasında geometri size daha fazla yer açar.

Üç Hiperbolik Model

Hiperbolik uzayı temsil etmenin birkaç yolu vardır. Bunları bir şehrin farklı haritalarına benzetebilirsiniz — aynı şehri gösterir ama farklı projeksiyonlar kullanır:

Poincaré Disk (Birim Disk): Hiperbolik uzayı bir dairenin içinde gösterir. Escher’in gravürlerindeki model budur. Sezgisel ve güzel ama sınırlara yaklaştıkça mesafeler patlar, sayısal kararsızlıklar oluşur. Tıpkı dünya haritasında kutupların dev görünmesi gibi.

Lorentz (Hiperboloid) Modeli: Hiperbolik uzayı Minkowski uzayında bir hiperboloid yüzey olarak temsil eder. Sınır problemi yoktur, mesafe hesaplamaları basit iç çarpımlara indirgenir, gradyan akışı kararlıdır. Fizikte özel görelilik teorisinin kullandığı uzayla aynı matematiksel yapıdadır.

Klein Modeli: Düz geodezikler sunar ama mesafe hesaplamaları karmaşıklaşır.

Biz biLorentzFM’de Lorentz modelini seçtik. Sebepleri ileride detaylandıracağım ama kısaca: kararlı, hızlı ve derin öğrenme ile uyumlu.

Lorentz Modeli: Minkowski Uzayında Bir Hiperboloid

Biraz matematik kaçınılmaz — ama korkacak bir şey yok, sezgisel anlatacağım.

Lorentz modeli, hiperbolik uzayı (d+1) boyutlu Minkowski uzayında bir hiperboloid yüzey olarak tanımlar:

Burada ⟨x, y⟩_L Lorentz iç çarpımıdır ve standart iç çarpımdan tek bir farkı var — ilk koordinat (zaman bileşeni) negatif işaretle girer:,

Bu negatif işaret, tüm sihrin kaynağıdır. Öklid uzayında mesafeler simetriktir: A’dan B’ye olan uzaklık, B’den A’ya eşittir. Ama Lorentz uzayında zaman bileşeni (x₀), noktaların hiyerarşik “derinliğini” kodlar. Bir kıdemli mühendisin embedding’indeki x₀ değeri, bir stajyerinkinden farklıdır — ve bu fark, mesafeleri asimetrik kılar.

Gerçek hayat örneği: Kıdemli bir mühendis → Junior pozisyona başvurursa (aşırı nitelikli), model yüksek eşleşme olasılığı verir (0.78). Ama junior bir mühendis → Kıdemli pozisyona başvurursa (yetersiz nitelikli), olasılık çok düşer (0.11). Öklid tabanlı model ise iki yöne de benzer skorlar üretir (0.42 vs 0.39) — çünkü simetrik mesafe, kariyer hiyerarşisini anlayamaz.

β Parametresi: Uzayın “Eğrilik Düğmesi”

biLorentzFM’in en zarif taraflarından biri, eğriliğin öğrenilebilir olmasıdır.

β parametresi, hiperbolik uzayın ne kadar “eğri” olduğunu kontrol eder. Büyük β → güçlü hiyerarşik kapasite, küçük β → neredeyse düz (Öklid benzeri) uzay.

Biz β’yı sabitlemek yerine, modelin kendisinin öğrenmesine izin verdik. Log uzayında parametrize ettik (β = exp(log β)) ki her zaman pozitif kalsın ve standart gradyan inişle güncellenebilsin.

Sonuçlar çok ilginç çıktı:

İş kategorileri (Sektör → Meslek Grubu → Pozisyon → Kıdem) doğal olarak derin bir ağaç yapısına sahip — model bunu β = 1.65 ile yakaladı. Adaylar ise eğitim ve deneyim açısından kısmen hiyerarşik ama çok daha çeşitli — β = 0.92. Bireysel iş ilanları ise birbirleriyle daha çok yatay (benzerlik) ilişki içinde — β neredeyse sıfır.

Bu, modelin kendi kendine “bu veri ne kadar hiyerarşik?” sorusunu cevaplaması demek. Pratik açıdan da bir tanı aracı: Eğer β eğitim sırasında sıfıra yakınsarsa, o domain için Öklid modelleri yeterli demektir.

biLorentzFM Mimarisi: Ne Yaptık?

Temel fikir basit: Kanıtlanmış bir öneri sistemi mimarisini (DeepFM) alıp, Öklid embedding’lerini Lorentz embedding’leriyle değiştirmek — ve bunu çift taraflı (reciprocal) optimizasyon ile birleştirmek.

Adım 1: Embedding Eşlemesi

Her kategorik özellik (meslek, eğitim, şehir vb.) önce standart bir Öklid embedding’e dönüştürülür (e_v). Sonra bu embedding, hiperboloid üzerine taşınır:

İlk bileşen (zaman koordinatı) otomatik olarak hesaplanır ve hiyerarşik derinliği kodlar. Normu büyük olan embedding’ler hiyerarşide daha “derin” konumlara yerleşir.

Adım 2: Hiperbolik Factorization Machine

Geleneksel FM’de özellik etkileşimleri Öklid iç çarpımıyla hesaplanır. biLorentzFM’de bunun yerine Lorentz iç çarpımı kullanılır:

Bu sayede, benzer hiyerarşi seviyesindeki özellikler daha güçlü etkileşim gösterir.

Adım 3: Derin Sinir Ağı Bileşeni

Tüm Lorentz embedding’leri düzleştirilip çok katmanlı bir perceptron’dan geçirilir — 3 katman (256, 128, 64 nöron), ReLU aktivasyonu, 0.2 dropout.

Adım 4: Çift Taraflı Çıkış

FM ve DNN çıkışları birleştirildikten sonra iki ayrı çıkış başlığından geçer — biri aday tarafı, diğeri şirket tarafı için. İki ayrı binary cross-entropy kaybı eşit ağırlıkla (λ = 0.5) optimize edilir.

Kritik Detay: Riemannian Optimizasyon

Hiperboloid üzerinde optimize etmek, düz uzaydaki gibi “her yöne adım at” demek değildir. Gradyanlar önce tanjant uzaya yansıtılmalı, güncelleme sonrası embedding’ler manifold üzerine geri normalize edilmelidir. Biz bunu Geoopt kütüphanesiyle PyTorch içinde uyguladık.

Sonuçlar: Rakamlar Ne Diyor?

Kariyer.net Veri Seti

1,150,302 etkileşim, 229,805 aday, 16,134 ilan — 6 aylık gerçek platform verisi üzerinde test ettik. Aşağıdaki tablo, biLorentzFM’i 8 farklı Öklid tabanlı baseline ile karşılaştırıyor:

Tablodaki rakamları özetlemek gerekirse: biLorentzFM, en güçlü Öklid baseline’ı olan biDeepFM’e kıyasla aday tarafında %6.6, şirket tarafında %6.0 AUC iyileşmesi sağlıyor. Dikkat çekici bir detay: sadece temel collaborative filtering özelliklerini kullanan biLorentzFM_4CF bile, tüm özellikleri kullanan Öklid modellerini geçiyor. Yani hiperbolik geometri, zengin özellik mühendisliği olmadan bile etkileşim örüntülerindeki hiyerarşiyi yakalayabiliyor.

Peki bu sonuçlar ne kadar güvenilir? 5-katlı çapraz doğrulama (std < 0.0004) ve 3 farklı rastgele tohum ile tekrarlama sonuçları sağlamlığı teyit ediyor. Cohen’s d etki büyüklüğü 2.89–3.08 arasında — istatistikte “çok büyük” kategorisi. Bu değerler, artımlı algoritmik iyileştirmelerde nadir görülür; farklı geometrik uzayları karşılaştırıyor olmamız bu büyüklüğü açıklıyor.

Speed-Dating Veri Seti: Farklı Bir Domain, Aynı Geometri

Modelin sadece iş eşleştirmesine mi özel olduğunu test etmek için Columbia Üniversitesi’nin Speed Dating veri setini kullandık: 8,378 etkileşim, 552 katılımcı — romantik eşleşme domain’i. Burada açık bir hiyerarşi yok, sadece kişilik ve tercih örüntüleri var.

Sonuç: +2.8% AUC iyileşme — açık hiyerarşi olmadan bile hiperbolik geometri fayda sağlıyor. Ama kazanç, hiyerarşinin netliğiyle doğru orantılı: iş eşleştirmede +6.6%, flört eşleştirmede +2.8%. Bu fark çok anlamlı: model, veri ne kadar hiyerarşikse o kadar parlıyor.

Ablasyon Çalışması: Hangi Parça Ne Kadar Katkı Sağlıyor?

Bir modelde her şey birlikte çalışıyor ama hangisinin ne kadar katkı sağladığını bilmek istersiniz. Bunun için her bileşeni teker teker çıkarıp performans düşüşünü ölçtük:

Geometri açık ara en büyük katkıyı sağlıyor (+6.6%). Öğrenilebilir eğrilik ise sabit eğriliğe kıyasla ciddi bir fark yaratıyor (+4.7%). Çok amaçlı öğrenme +2.1%, FM bileşeni +0.6% ile onu izliyor. Yani modeli “güçlü” kılan şey, öncelikle doğru geometriyi seçmek.

Lorentz vs Poincaré: Aynı Geometri, Farklı Sonuçlar

Bu bölüm benim en çok ilgimi çeken kısım oldu. Lorentz ve Poincaré matematiksel olarak izometrik — yani aynı geometriyi farklı koordinat sistemlerinde temsil eder. Aynı şehrin iki farklı haritası gibi. Ama pratikte sonuçlar şaşırtıcı derecede farklı:

Poincaré modeli sınır kararsızlıkları yüzünden %49 daha yavaş eğitiliyor ve daha düşük performans veriyor — tüm hyperparametre optimizasyonuna rağmen. Lorentz’in avantajı saf hesaplama: mesafe = bir bilineer form + bir hiperbolik arkkosinüs. Poincaré’de ise Möbius toplama, logaritmik haritalar, hiperbolik trigonometri fonksiyonlarının bileşimi gerekiyor. Teori aynı olabilir ama mühendislik detayları sonucu belirliyor.

Pratik Çıkarımlar

Akademik sonuçlar güzel de, bunu gerçek bir sisteme koyabilir miyiz? İşte rakamlar:

Epoch başına %23.5 daha yavaş — evet. Ama daha az epoch’ta yakınsıyor (12 vs 18), bu da toplam eğitim süresini %17.8 kısaltıyor. Çıkarım süresi batch başına 2.1 ms — gerçek zamanlı dağıtım için gayet uygun. Bellek artışı sadece %9.5 (2.1 → 2.3 GB).

Soğuk başlangıç konusu ise hâlâ bir zorluk: 5'ten az etkileşimi olan kullanıcılarda iyileşme +2.1%’e düşüyor (genel +6.6% yerine). Hiperbolik geometri, hiyerarşik pozisyonu öğrenmek için yeterli etkileşim geçmişine ihtiyaç duyuyor — tıpkı bir haritada konumunuzu belirlemek için birkaç referans noktasına ihtiyacınız olması gibi.

Sınırlılıklar ve Gelecek Yönelimler

Her çalışma gibi biLorentzFM’in de sınırları var:

Statik hiyerarşiler: Model, hiyerarşilerin sabit olduğunu varsayıyor. Ama iş dünyası dinamik — yeni pozisyon türleri ortaya çıkıyor (“AI Ethics Officer” birkaç yıl önce yoktu), organizasyonlar yeniden yapılanıyor. Adaptif eğrilik mekanizmaları, gelecek çalışmaların ana gündem maddelerinden biri.

Ölçeklenebilirlik: Kariyer.net ölçeğinde (1.15M etkileşim, 230K kullanıcı) sorunsuz çalışıyor. Ama LinkedIn (800M+ kullanıcı) ölçeğinde dağıtık eğitim stratejileri ve hiperbolik uzayda yaklaşık en yakın komşu arama yöntemleri gerekecektir.

Adalet ve Önyargı: Bu benim için en kritik sınırlılık. Hiperbolik embedding’ler, tarihsel verideki toplumsal önyargıları geometrik yapıya gömebilir. Eğer geçmiş verilerde üst düzey teknik pozisyonlarda cinsiyet dengesizliği varsa, model bunu hiyerarşinin merkezine erkek egemen kalıpları yerleştirerek kodlayabilir. Adalet kısıtlı hiperbolik öğrenme, açık bir araştırma problemidir ve bu tip sistemlerin üretime alınmasında düzenli adalet denetimleri şarttır.

Son Söz

M.C. Escher, “Circle Limit” serisini çizerken matematikçi H.S.M. Coxeter ile yazışıyordu. Coxeter, Escher’e hiperbolik geometrinin prensiplerini açıklamış; Escher ise bu prensipleri sanat eserine dönüştürmüştü. Bir matematikçi ve bir sanatçı, aynı geometriyi farklı dillerle ifade ediyordu.

biLorentzFM de böyle bir çeviri denemesi — soyut bir matematiği, gündelik bir probleme tercüme etmek. “Doğru işe doğru adayı bul” dediğimiz şey, sonuçta bir geometri problemi çıktı. Ve biz düz bir kağıda çizmeye çalışıyorduk ağacı.

Belki de en güzel kısmı şu: Modele “bu veri hiyerarşik mi?” diye sormadık. O, eğriliğini kendisi öğrendi ve bize cevabı verdi.

Escher’in balıkları sonsuzluğu sonlu bir daireye sığdırıyordu. Biz de benzer bir şey yaptık — sadece balıklar yerine CV’ler ve iş ilanları var.

Keyifli okumalar!

🔗 Makaleye erişim: biLorentzFM: Hyperbolic Multi-Objective Deep Learning for Reciprocal Recommendation — Applied Sciences, 2025

Sarkar, R. “Low Distortion Delaunay Embedding of Trees in Hyperbolic Plane.” Proceedings of the International Symposium on Graph Drawing, Eindhoven, The Netherlands, 21–23 September 2011. Springer, 2012, pp. 355–366.

Resim erişim: https://en.wikipedia.org/wiki/Circle_Limit_III

#HyperbolicGeometry #RecommendationSystems #DeepLearning #MachineLearning #JobRecommendation #GeometricDeepLearning #RecSys #AI


biLorentzFM: Öneri Sistemlerinde Öklid’in Ötesi was originally published in Kariyer.net Tech on Medium, where people are continuing the conversation by highlighting and responding to this story.


Bu yazı ilk olarak Medium'da yayımlandı.

Devamı