Röportaj Serisi-54:Konuk = Dr.Nuri Mert Vural (Yapay Zeka)
“11 Soru 11 Cevap” röportaj serimin elli dördüncü konuğu; Boğaziçi Üniversitesi’nden University of Toronto, Vector Institute, Flatiron Institute ve UC Berkeley Simons Institute’a uzanan akademik yolculuğuyla optimizasyon, makine öğrenmesi teorisi ve yüksek boyutlu istatistik alanlarında kritik araştırmalara imza atan Sayın Dr. Nuri Mert Vural olacaktır.Yüksek boyutlu veri analizinden derin öğrenme teorisine, yapay zekânın matematiksel temellerine ışık tutan Dr. Nuri Mert Vural’ın tecrübelerinin tüm araştırmacılar için ilham verici olacağına inanıyor, gelecekteki çalışmalarının dünyaya ve ülkemize sunacağı katkılar için şimdiden teşekkür ederek izninizle sorularıma geçiyorum.
Soru 1: Öncelikle nasılsınız? Bilkent Elektrik-Elektronik Mühendisliğinden University of Toronto ve Simons İnstitute (UC Berkeley)'e uzanan akademik yolculuğunuzda, teorik bilgisayar bilimi ve optimizasyona yönelmenize ne neden oldu?Cevap 1: Öncelikle ilginiz için teşekkür ederim. Çocukluğumdan beri matematiğe her zaman büyük bir ilgi duydum. Lisans eğitimimin ardından da bu ilgimle örtüşen bir alanda çalışmayı hedefledim. Bugün yapay zeka alanında gördüğümüz büyük kırılma noktaları, benim lisans yıllarıma denk geldi. Optimizasyon ve istatistik üzerine yoğunlaşmamın, kişisel ilgi alanlarımla akademideki genel yönelimleri birleştirmemin bir sonucu olduğunu söyleyebilirim.
Soru 2:Flatiron Institute bünyesindeki Center for Computational Mathematics'te gerçekleştirdiğiniz araştırma stajı deneyiminiz, farklı disiplinlerden bilim insanlarıyla bir arada çalışmak ve teorik yaklaşımlarınızı somut hesaplamalı problemlere uygulamak açısından araştırma vizyonunuza neler kattı?
Cevap 2: Flatiron'daki çalışmalarım genel doktora araştırmalarımla tutarlı bir çizgideydi, bu nedenle doğrudan multidisipliner bir projenin içinde yer aldığımı söyleyemem. Ancak orada çok farklı konularda çalışan, çeşitli bakış açılarına sahip araştırmacılarla tanışma ve sohbet etme fırsatı buldum. Burada edindiğim en önemli tecrübe, henüz tam keşfedilmemiş bir alanda (örneğin derin öğrenmenin bilimsel olarak incelenmesi ve matematiksel temellere oturtulması sürecinde) bilim insanlarının birbirlerinden çok farklı yaklaşımlar benimseyebildiğini görmek oldu. Kimi araştırmacılar alternatif yöntemlere açıkken kimileri daha kapalı olabiliyor; fakat bilim tarihinde bu farklı tutumların her birinin ayrı bir yeri ve değeri var. Böylesine çok sesli bir çevrede bulunmak, sanırım kendi bilimsel görüşlerim açısından beni oldukça olgunlaştırdı.
Soru 3: Çalışmalarınızın odak noktalarından biri yüksek boyutlu istatistik ve optimizasyon.Yapay zeka modelleri büyüdükçe ve parametre sayıları milyarlara ulaştıkça ne tür özgün zorluklar ve fırsatlar yaratıyor?
Cevap 3:: Geleneksel istatistik teorisinde parametre sayısının artması, genellikle öğrenmeyi zorlaştıran bir faktör olarak görülürdü. Ancak derin öğrenme modelleri bunun tam tersi bir davranış sergiliyor; modeller büyüdükçe daha iyi performans gösteriyor ve çok daha kolay optimize edilebiliyorlar. İlk bakışta beklenmedik olan bu durum, özellikle derin öğrenmenin yaygınlaşmasından bu yana araştırmacıların ilgisini çeken önemli bir teorik problem haline geldi. Teorik açıdan genel yaklaşım, modellerin parametre sayısı arttıkça belirli bir limite yaklaştığı ve bu limit davranışının, klasik istatistiksel öğrenme teorilerinin hesaba katmadığı bazı avantajları beraberinde getirdiği yönündedir. Ben de doktora çalışmalarımda bu davranışı, yüksek boyutlu istatistik araçlarından faydalanarak çeşitli optimizasyon süreçleri üzerinden inceledim.
Soru 4: Derin öğrenme modelleri pratikte muazzam başarılar gösterse de teorik arka planı halen aktif bir araştırma alanı. Yaptığınız çalışmalar, yapay sinir ağlarının öğrenme sürecine dair bize neler söylüyor?
Cevap 4: Bahsettiğiniz gibi, derin öğrenme modellerinin teorik arka planı hakkında henüz çok kapsamlı bilgiye sahip değiliz ve açıkçası teori, bu alandaki pratik başarıların oldukça gerisinde kalıyor. Bu nedenle, çalışmalarımız doğrudan pratiği beslemekten ziyade, bu işin matematiğini inşa etme ve sağlam bir temel atma çabası olarak görülebilir. Benim araştırmalarım, derin öğrenme algoritmalarının pratikte sergilediği bazı özgün davranışların, kurduğumuz basit teorik modellerde de gözlemlenebileceğini kanıtlamaya yönelik matematiksel çalışmalardı. Kendi adıma, bu tür basit modellerin büyük modellerle davranışsal benzerlikler göstermesi, uzun vadede o devasa modellerin henüz anlaşılamayan dinamiklerinin de matematiksel olarak çözülebileceğine dair umudumu artırıyor.
Soru 5: COLT 2024 çalışmanızda yüksek boyutlu ortamlarda "budama" (pruning) tekniğinin seyreklik (sparsity) öğreniminde optimalliğini ele aldınız. Günümüz devasa dil ve görüntü modellerinin hafifletilmesi açısından bu bulgu pratikte neye karşılık geliyor?
Cevap 5: Bu çalışma aslında doğrudan dil veya görüntü modellerinin hafifletilmesinden ziyade, çok daha temel bir problemi konu ediniyordu. Temel sorumuz şuydu: Önceki soruda da değindiğimiz gibi, derin öğrenme modelleri parametre sayıları arttıkça genel olarak daha iyi performans gösterseler de, bu durum her büyük modelin mutlak surette daha başarılı olacağı anlamına gelmiyordu. Örneğin, görüntü işlemede kullanılan popüler bir mimari olan Evrişimli Sinir Ağları (CNN) derinleşip büyüdükçe çok başarılı sonuçlar verirken, aynı problem için farklı bir mimari kullandığımızda (mesela Çok Katmanlı Algılayıcı (MLP)) benzer bir örüntü gözlemleyemiyorduk. Yani büyük modellerin başarısına mimari yapıları da kritik bir katkı sağlıyor. Bahsettiğiniz çalışmamızda bu durumun cevabını teorik düzlemde aradık. Elde ettiğimiz sonuçlar, model mimarisinin verideki temel özellikleri kavrayacak şekilde tasarlanmasının, öğrenme süreci için ne kadar belirleyici bir faktör olduğunu ortaya koydu. Ek olarak, makalede belirlediğimiz ön kabuller altında, veriye en uygun mimarinin "budama" (pruning) yöntemiyle keşfedilebileceğini matematiksel olarak kanıtladık.
Soru 6: NeurIPS 2025 çalışmanızda karesel yapay sinir ağlarının yüksek boyutlardaki ölçekleme yasalarını incelediğinizi biliyoruz. Modelleri büyütmenin sınırlarına yaklaştığımız tartışılırken, ölçekleme yasalarının geleceğini teorik açıdan nasıl değerlendiriyorsunuz?
Cevap 6: Ölçekleme yasaları, pratikteki çok büyük modellerin gelişmesinde temel bir rol oynadı; çünkü bu sayede şirketler, model eğitimlerine yatıracakları milyonlarca doların ne derece işe yarayacağını önceden kestirebilir hale geldiler. Bu tahmin edilebilirlik özelliğinin, modern yapay zeka algoritmalarının ölçeklenmesinde ilerleyen dönemlerde de kritik bir yer tutacağını düşünüyorum. Bu nedenle, ölçekleme dinamiklerinin matematiksel modellerle incelenmesinin, uzun bir süre daha temel bir teorik problem olarak güncelliğini koruyacağına inanıyorum.
Soru 7: Karar verme mekanizmaları ve belirsizlik altında öğrenme için kritik olan Online Learning ve Bandit algoritmaları üzerine de çalışıyorsunuz. Bu algoritmaların gerçek zamanlı yapay zeka sistemlerindeki rolü nedir?
Cevap 7:: Bahsettiğiniz paradigmalar, belirsizlik altında öğrenme problemlerinin en temel yöntemlerindendir. Özellikle sadece pozitif (veya negatif) örneklem alabildiğimiz durumlarda kullanılır. Örneğin; insanların haber tıklama tercihleri, reklam önerileri veya büyük dil modellerinin insan tercihlerine uygun cevaplar üretmesi gibi, kullanıcıdan yalnızca pozitif örneklem alınabilen senaryolarda sistemler bu algoritmalar kullanılarak geliştirilir.
Soru 8: Yapay zeka dünyasında pratik uygulamalar (LLM'ler, otonom sistemler vb.) çok hızlı ilerliyor. Teorik bilgisayar biliminin bu hızlı pratik gelişmeleri yakalama veya onlara yön verme rolünü nasıl görüyorsunuz?
Cevap 8: Yukarıda bahsettiğim gibi, teori hâlâ pratiğin çok gerisinde kalıyor. Bu durumu anlatmak adına şu örneği verebilirim: Uygulamadaki mevcut başarılar, insanoğlunun demiri kullanmayı keşfetmesi gibi, geçmişe kıyasla çok büyük avantajlar sağlayan heyecan verici gelişmelerdir. Ancak henüz kimya bilimi gibi sistematik bir yaklaşıma sahip olmaktan oldukça uzağız. Yine de zamanla bu konudaki sistematik bilgimiz arttıkça, yapay zeka algoritmalarının daha uygun kaynaklarla çok daha ileri seviyelere taşınabileceğini düşünüyorum (tabii bu sistemler, bunu kendi başlarına yapmayı bizden önce öğrenmezlerse).
Soru 9: Bugün kullandığımız yapay zeka yaklaşımlarının teorik limitlerine ulaştığımızı düşünüyor musunuz, yoksa tamamen yeni matematiksel çatı ve paradigmalara mı ihtiyacımız var?
Cevap 9: Bu soruya net bir yanıt vermek kolay değil. Bugünkü yapay zeka yaklaşımları, temelde insan beyninden ilham alınarak tasarlanmış algoritmalardır. Şu anki sistemler, verimlilik ve kaynak kullanımı açısından insan beynine kıyasla çok daha verimsiz olsalar da birçok görevde insanlardan daha iyi performans gösterebiliyorlar. Bu bağlamda, kaynakları ve performansı optimize eden teorik bir limitin olduğu muhakkak; ancak insan beyninin veya bugünkü yapay zeka modellerinin bu optimal noktada olup olmadığını henüz bilmiyoruz. Yine de günümüzdeki büyük dil modellerinin şirketler ve devletler tarafından benimsenme hızına ve operasyonel masraflarına baktığımızda, bu sistemleri hem çevresel etkileri hem de maliyetleri açısından daha sürdürülebilir hale getirecek yeni paradigmalara ihtiyacımız olduğuna inanıyorum.
Soru 10: Türkiye'de lisans ve yüksek lisans eğitimi alıp dünya çapındaki kurumlarda üst düzey teorik araştırmalar yapan bir bilim insanı olarak, Türkiye'deki genç araştırmacılara ve mühendislik öğrencilerine ne tür tavsiyelerde bulunursunuz?
Cevap 10: Şu an aklıma gelen iki temel tavsiyede bulunabilirim. Birincisi: Ben şu an bulunduğum noktaya, kişisel olarak sevdiğim alanı güncel trendlerle harmanlayarak geldim; onlara da benzer bir yol izlemelerini tavsiye ederim. Hem çalışırken keyif alacakları hem de dünyadaki gelişmelerle bağ kurabilecekleri konulara yönelmeleri kariyerlerine katkıda bulunacaktır. İkincisi: Özellikle pandemi sonrasında her şey dijital ortama taşınmış olsa da, insanın en temel davranışsal ve mesleki eğitimini gözlemleyerek aldığına inanıyorum. Bu nedenle, bulundukları üniversitelerdeki derslere ve seminerlere fiziksel olarak katılmalarını, insanlarla yüz yüze iletişim kurmayı bir alışkanlık haline getirmelerini öneririm.
Soru 11: Yoğun matematiksel ispatlar, teorik analizler ve soyut kavramlarla dolu bir çalışma gününün ardından zihninizi dinlendirmek için nasıl bir alan yaratırsınız; odaklanma rutininiz neleri içerir?
Cevap 11: Günlerim genellikle çok rutin ve tekrara dayalıdır. Sabahları çalışmaya başlamadan önce kahvaltı, kahve ve haber okuma gibi bir rutinim; akşamları ise dizi izleme, yürüyüş yapma ve kitap okuma gibi alışkanlıklarım var. Sanırım tekrara dayalı bir düzen, zihnimi fazladan yormadan stabil bir hayata sahip olmamı sağlıyor. Temel olarak odaklanabilmenin, çalışmaktan keyif almakla doğrudan bağlantılı olduğuna inanıyorum. Ara sıra sevmediğim bir işi yapmam gerektiğinde odaklanma konusunda problem yaşadığım oluyor.
Soru 12: Modellerin güvenilirliği ve açıklanabilirliği (explainability) teorik optimizasyon sınırları dahilinde ne kadar mümkün? Bir modelin matematiğini tam olarak anlamak, onun "siyah kutu" olmasını tamamen engelleyebilir mi?
Cevap 12: İlk sorunuzun cevabını vermek oldukça zor; çünkü derin öğrenme modellerinin "siyah kutu" yapısının ne ölçüde devam edeceğini henüz bilemiyoruz. Ayrıca bu durumun mevcut optimizasyon çerçevesi içinde mi, yoksa matematiği henüz tam oturmamış bütünsel bir yaklaşımla mı çözülebileceğini kestirmek de güç. İkinci sorunuz ise biraz daha felsefi. Bir modelin matematiğini bilmenin, o modeli tahmin edilebilir kılacağı muhakkak; ancak bu durumun o modeli gerçekten "anlayabildiğimiz" anlamına geleceği o kadar kesin değil. Bu durumu, ünlü matematikçi John von Neumann'ın güzel bir sözüyle özetleyerek röportajı bitirmek isterim: "Genç adam, matematikte hiçbir şeyi anlamazsınız; sadece alışırsınız."
Hocam, zaman ayırdığınız için çok teşekkür ederim. Başarılarınız ve sağlığınız daim olsun. İyi çalışmalar diliyorum, saygılarımla.