TOPS’a Yükselmek: NPU’lar ve Windows AI 2025’te nasıl büyüyecek?

2024, tüketici elektroniğinde cihaz içi yapay zeka için büyük bir yıl oldu. Hem Microsoft hem de Apple, Microsoft’un yapay zeka özellikli dizüstü bilgisayarlar için “Copilot+ PC” markasını piyasaya sürmesi ve Apple’ın Apple Intelligence’ı piyasaya sürmesiyle, kendi işletim sistemlerinde büyük değişimler yaşadı.

Bu ilk örnekler karışık sonuçlar sundu. Gerçek zamanlı çeviriler ve cihazdaki konuşmayı metne dönüştürme gibi bazı özellikler yararlı olabilir. Microsoft’un Windows Geri Çağırma gibi diğerleri henüz kendilerini kanıtlayamadı.

Yapay zekaya yönelik tüm bu heyecanın yeni yıl için önemli sonuçları var. 2025, ana akım geliştiricilerin Windows uygulamalarına cihaz içi yapay zeka eklemeye çalışacakları bir yıl olacak gibi görünüyor; bu da, bir satın almadan önce modern Windows dizüstü bilgisayarların yapay zeka performansına daha da yakından dikkat etmek isteyeceğiniz anlamına geliyor. yeni bir tane.

Windows cihaz içi yapay zekanın 2025’te nasıl büyüyeceğine dair içgörüler elde etmek amacıyla beyinlerini incelemek amacıyla yapay zeka araştırma ve testlerinde iki uzmanla konuştum.

NPU’lara büyük kazançlar geliyor

Windows dizüstü bilgisayarların yapay zeka performansını merak ediyorsanız muhtemelen her dizüstü bilgisayar modelinin vaat ettiği “TOPS” değerlerini karşılaştıracaksınız. TOPS (“Saniyede Trilyonlarca İşlem”), bir NPU’nun cihazdaki yapay zeka görevleri için matris çarpımları gerçekleştirme yeteneğinin bir ölçümüdür. (NPU’nun ne olduğu ve yapay zeka için neden önemli olduğu hakkında daha fazla bilgi edinin.)

2024, Windows dizüstü bilgisayarların sunduğu TOPS performansında büyük artışlar gördü. Microsoft’un “Copilot PC+” markasına hak kazanmak için bir Windows dizüstü bilgisayarın en az 40 TOPS NPU performansına sahip olması gerekir. Referans olarak, Qualcomm’un ilk Copilot+ bilgisayarları yaklaşık 45 TOPS fiyat verdi; bu, yalnızca 11 TOPS NPU performansı sunan Intel’in “Meteor Lake” Core Ultra 7 165H’ye göre dört kat artış anlamına geliyor.

Cambrian AI Research’ün kurucusu ve baş analisti Karl Freund, “Qualcomm’un gerçekten herkesi uyandırdığını düşünüyorum” dedi. Freund, AMD ve Intel’in kendi çipleriyle hızlı bir şekilde yanıt verdiğini ve bunun da benzer bir artış sağladığını belirtti.

2024’ün sonuna gelindiğinde, Microsoft Surface, Asus ProArt veya Dell XPS gibi premium bir Windows dizüstü bilgisayar arayan müşteriler, o dönemde mevcut olan benzer premium dizüstü bilgisayarlarla karşılaştırıldığında NPU performansında kabaca üç veya dört kat artış bekleyebilirler. 2023’ün sonu. Bu çok büyük bir artış. Peki bu eğilim 2025’te de devam edecek mi?

Performans testi laboratuvarı Signal65’in başkanı Ryan Shrout bunun yapılabileceğini düşünüyor. “Tekrar çift görmemiz beni şaşırtmaz, yine üçlü görmemiz beni şaşırtmaz.” Ancak kendisi, bu nihai kazanımların gelecek yılın sonuna doğru daha fazla ağırlık kazanmasını bekliyor. “Tahminimce 2025’in sonlarında ve muhtemelen en önemli NPU iyileştirmelerini göreceğimiz 2026’da olacak.”

TOPS uzun süre zirvede kalmayabilir

Cihazdaki yapay zeka performansında potansiyel olarak iki ila üç kat iyileşme önemli. Ancak Freund ve Shrout, çip üreticilerinin aktardığı TOPS performanslarına çok fazla güvenmemenin en iyisi olduğu konusunda uyardı.

Freund, “TOPS gerçekten ‘Çok Fazla Kullanılan Performans İstatistiği’ anlamına geliyor” dedi. “Fazla değeri yok.”

Shrout da TOPS’u AMD ve Nvidia’nın GPU’ları pazarlarken sıklıkla alıntıladığı TFLOPS rakamlarıyla karşılaştırarak bu görüşe katıldı. GPU’nun mümkün olan maksimum hesaplama hızına işaret eden bu rakamlar, gerçek dünya performansına ilişkin şaşırtıcı derecede az fikir veriyor.

Gerçek dünyadaki yapay zeka performansı şu anda biraz çılgın bir durum; bunun nedeni kısmen Windows’un henüz bir NPU’nun yapay zeka yeteneklerinden yararlanmak için tek bir API etrafında birleşmemiş olması. Bu, içinde Qualcomm çipi bulunmayan Copilot+ dizüstü bilgisayar sahipleri için bir sorundur.

Mark Hachman / IDG

AMD ve Intel’in Copilot+ markasına uygun çipleri olmasına rağmen Qualcomm şu ana kadar tercih edilen bir statüye sahip. Qualcomm makineleri, Windows Recall’ın yanı sıra yakın zamanda yalnızca Qualcomm Snapdragon X donanımı üzerinde çalıştığı duyurulan Blender ve Affinity Photo gibi birçok popüler uygulama için destek alan ilk makineler oldu.

Ancak Microsoft, düşük seviyeli makine öğrenimi API’sini (DirectML) ve çeşitli göreve özgü AI API’lerini (bazıları henüz piyasaya sürülmemiş) içeren Windows Copilot Runtime’ı desteklemeye başladığından, bu durumun 2025’e kadar değişmesi bekleniyor. Şimdilik, Copilot+ bilgisayarların arzulanan çok şey bıraktığı ve büyüme için çok fazla alana sahip olduğu açık.

Shrout, “Microsoft’un bunu 2025’te çözeceğini düşünüyorum” dedi. “Uygulama geliştiricileri DirectX’te yaptıkları gibi DirectML’ye bağlandıklarında bu sorun çözülmüş olacak. Ve bunun uzun süre bir sorun olacağını düşünmüyorum.” Shrout bunu, başlangıçta rakip API’lerin görüldüğü ancak sonunda liderlerin etrafında birleşen ve Microsoft DirectX’in en popüler seçenek haline geldiği PC’deki 3D’nin ilk günleriyle karşılaştırdı.

Windows AI için durumu kanıtlamak

Daha iyi NPU’lar ve Windows uygulama geliştiricilerinin bir NPU’nun tam performansını gerçekten kullanmasını kolaylaştıran birleştirilmiş bir API, ileriye yönelik önemli adımlardır, ancak cihaz içi yapay zekanın yaygın hale geleceğini garanti etmezler.

Bunun nedeni, geliştiricilerin hala yapay zeka modellerini ve hizmetlerini internet erişimi olan herhangi bir cihaza sunan OpenAI ve Anthropic gibi şirketlere yönelme seçeneğine sahip olmaları. Yapay zeka modelleri hâlâ cihazdaki yapay zeka modellerinden daha yetenekli, daha fazlasını yapabiliyor ve bu sonuçları çok daha hızlı üretebiliyor.

Bununla birlikte, bulutta barındırılan yapay zeka modellerinin 2025’te daha alakalı hale gelecek büyük bir dezavantajı var: fiyat.

Shrout, “Neler olup bittiğini izlemek için arka planda sürekli olarak bir NPU üzerinde çalıştırılan küçük dil modellerine sahip olabilmemiz gerçeği, bulutun yapamayacağı bir şeydir veya en azından altyapı açısından çok daha pahalı olacaktır” dedi.

OpenAI’nin ileri düzey kullanıcılar için yeni bir premium katman olan ChatGPT Pro’nun yakın zamanda piyasaya sürülmesi bu noktayı daha da güçlendirecek gibi görünüyor. ChatGPT Pro, şirketin yeni o1 modeline sınırsız erişim ve Sora video oluşturucuya öncelikli erişim sağlar, ancak fiyatı aylık 200 ABD dolarıdır. O1’i kullanıcılara sunmak için uygulama geliştiricileri tarafından ödenen token başına fiyat da benzer şekilde yüksek.

Öte yandan, Windows dizüstü bilgisayarın cihaz üzerindeki NPU’suna yönelen kullanıcılar ve geliştiriciler, bunu aslında istedikleri zaman ücretsiz olarak kullanabilirler. Bu muhtemelen cihazdaki yapay zekaya giden yolda atılan son tuğla olacak. Geliştiriciler ve kullanıcılar, maliyetleri düşürmek için mümkün olduğunda Windows dizüstü bilgisayarın NPU’suna güvenmek için hem araçlara hem de teşviklere sahip olacak.

Cihazdaki yapay zekaya geçişin ne kadar hızlı gerçekleşeceğini ve Windows’un yazılım ekosisteminde ne ölçüde yaygınlaşacağını zaman gösterecek, ancak 2025’in büyük bir dönüm noktası olması muhtemel.

“Sanırım Qualcomm beş yıl önce yapay zekanın cihaza geçeceğini söylerken haklıydı. İlk başta şüpheciydim. Ama artık inanan biri oldum” dedi Freund.