Yapay zeka hızla büyüyen bir işletme gideridir. Bazı şirketler daha ucuz Çin yapay zeka modellerine geçerek maliyetleri düşürüyor.
Imen Ben Youssef/Hans Lucas/AFP, Getty Images aracılığıyla
başlığı gizle
başlığı değiştir
Imen Ben Youssef/Hans Lucas/AFP, Getty Images aracılığıyla
NPR’lere kaydolun İlk Sırada Güne başlamanız için ihtiyaç duyduğunuz hikayeler için sabah bülteni.
SAN FRANCISCO — Flo Crivello’nun San Francisco merkezli girişimi Lindy.ai, e-postanızı ve takviminizi yönetmek için yapay zeka “asistanları” yaratıyor. Başlangıçta şirket ağırlıklı olarak Anthropic’in birinci sınıf yapay zeka modellerine güveniyordu.
Ancak Crivello, finans sorumlusuyla görüştükten sonra yaptığı toplantıda bir şeyin netleştiğini söyledi: “Şimdiye kadar 1 numaralı harcamamız Antropikti” dedi. “Maaş bordrosundan daha fazlası gibi.”
İki düzineden fazla çalışan için maaş bordrosundan daha fazlası. Kiradan daha fazlası. Her şeyden çok. Geçen ay Crivello duyuruldu Lindy trafiğinin %100’ünü Çin yapay zeka modeline aktardı DeepSeek-V4.
“Sadece 10 kat daha ucuzdu” dedi ve bunun şirkete milyonlarca dolar tasarruf sağladığını ekledi. “Yani bu çok çok basit bir iş kararıydı.”
Yapay zeka bunlardan biri haline geldi; the — ABD’deki işletmeler için en hızlı artan maliyetler. Ancak birçok şirket için bu iki ucu keskin bir kılıçtır: gerekli ama pahalıdır. Hayatta kalabilmek için giderek artan sayıda firma Amerikan modellerinden daha ucuz Çin yapay zekasına geçiş yapıyor.
En iyi yapay zeka modellerini yaratma yarışında Anthropic, OpenAI ve Google gibi ABD şirketleri dünyaya öncülük ediyor. Uzmanlar, Çin modellerinin yetenek açısından altı ila 12 ay geride olduğunu söylüyor.
Ancak Çin, indirilmesi ve uyarlanması ücretsiz olan açık kaynaklı modellerde kendine bir yer edindi. Crivello, “Şu anda açık kaynak sahnesi kesinlikle Çinlilerin hakimiyetinde. Bu onun yanında bile değil” dedi.
Yapay zeka alanında çalışan tanıdığı her kurucunun ya Çin modellerine geçmeyi düşündüğünü ya da bunu zaten yaptığını söyledi.
Yapay zeka maliyetlerinin balon gibi artması da yalnızca bir başlangıç sorunu değil. Uber CEO’su Dara Khosrowshahi geçen ay bu konu hakkında konuştu. En İyisi Gibi Yatırım Yapın podcast. “Yapay zeka bütçemizi çeyrek yılda, yani aslında tüm yıl boyunca tükettik. Ve bu bizi uyum sağlamaya zorluyor” dedi.
(Uber, NPR’nin Çin modellerini kullanıp kullanmadığına ilişkin bilgi talebine yanıt vermedi.)
Bloomberg rapor edildi Airbnb CEO’su Brian Chesky, şirketin geçen yıl Alibaba’nın “iyi”, “hızlı ve ucuz” Qwen modeline güvendiğini söyledi. Şaşkınlık Ve Nvidia Qwen’den de yararlandık.
Ferrari ya da Honda gibi
Pek çok şirket, siyasi hassasiyetler nedeniyle Çin modellerini kullanma konusunda temkinli davranıyor ancak modeller, yapay zeka model merkezlerinde yaygın olarak mevcut. Hugging Face gibi, kod barındırma platformu GitHub’da ve Çin dışındaki model toplayıcılar ve çıkarım sağlayıcılar aracılığıyla.
Buna yaklaşık 30.000 yapay zeka modeline erişim sunan San Francisco merkezli Featherless şirketi de dahildir. Kurucu ve CEO Eugene Cheah, “sınır” modelleri veya sınıfının en iyisi olmasalar bile Çin modellerinin popüler olduğunu söyledi.
“Bu, Ferrari ve Honda kullanmak arasındaki farka benziyor. En iyi lüks araca sahip olabilirsiniz veya sadece işe yarayan ölçekte bir Honda’ya sahip olabilirsiniz” dedi.
“Aslında pek çok açık kaynaklı yapay zeka grubunun N-1 olması ve N’nin sınırın olduğu yerde olması gayet iyi” diye devam etti. “Çünkü aradaki fark küçülmeye devam ettikçe, bir noktada şu soru ortaya çıkıyor: Gerçekten önemli mi?”
Lindy gibi birçokları için bunun bir önemi yok. AI’nın Honda’sı mükemmel derecede iyi.
Startup’ların çeşitli yapay zeka modellerine erişebildiği başka bir platform olan OpenRouter, Çin’in DeepSeek kullanımının Ocak ayından bu yana yaklaşık %9’dan neredeyse %20’ye çıktığını bildirdi. Çinli şirketler MiniMax, Xiaomi ve Tencent’in modellerinin kullanımı da arttı.
Bazı kullanıcılar açık kaynaklı Çin yapay zeka modellerini indirip kendi kendine barındırıyor, ancak birçoğu bunları Featherless ve OpenRouter gibi ücretli yapay zeka barındırma şirketleri aracılığıyla kullanıyor, böylece kullanıcı verileri Amerika Birleşik Devletleri’nde tutuluyor.
Şangay merkezli MiniMax’ta küresel ürün pazarlaması yapan Victor Su-Ortiz, yakın zamanda San Francisco’da düzenlenen bir yapay zeka mühendisleri konferansına katıldı. Şirketler yapay zeka modellerini kullanmak için jetonlara veya yapay zeka iş birimlerine ödeme yapıyor. Su-Ortiz, her şeyin token başına maliyete bağlı olduğunu söyledi.
Önde gelen yapay zeka modelleriyle karşılaştırıldığında “Aynı performansa sahip ancak token başına maliyeti çok daha düşük olan bir modelle pek çok tekrarlayan görev yapılabilir” dedi. “Ve esas olarak bu açık ağırlık modellerini Amerika Birleşik Devletleri’ne getiren de budur.”
Şirketlerin mümkün olduğu kadar çok yapay zeka kullanarak “tokenmaxxing” yönteminden, kullanımı sınırlandırarak, daha ucuz modellere geçerek veya farklı türdeki yapay zeka çalışmalarını farklı türde modellere yönlendirerek maliyet tasarrufuna geçtiklerini söyledi.
Su-Ortiz, örneğin araştırma veya “derin muhakeme” için en son modellerin daha iyi performans gösterebileceğini söyledi. “Ancak tekrarlayan, yüksek hacimli bir kodlama görevi için yönlendirme yapıyorsanız… işte bu noktada modellerimizden biri, özellikle de MiniMax M3, maliyetin yalnızca onda biri kadar bir maliyetle olağanüstü iyi performans gösterecektir.”
Birkaç dolar tasarruf etmek herkes için buna değmez
Bazı şirketler için Çin modelleri hâlâ yeterince iyi değil. Jon Gordner, yalnızca birkaç hafta önce kurulan ve kodlayıcılar ve yapay zeka temsilcileri için Google Dokümanlar’a benzer olduğunu söylediği bir ürün geliştiren Comment.io’nun CEO’su ve kurucu ortağıdır.
“Mümkün olduğu kadar hızlı bir şekilde elimizden geldiğince iyi bir yazılım yapmalıyız. Ve eğer hatalarını düzeltmek için iki veya üç hafta daha harcamak zorunda kalacaksak, daha ucuz bir model için birkaç dolar tasarruf etmenin bizim için anlamı yok” dedi.
Gordner, şirketinin Antropik ve OpenAI modellerinden değer elde etmesinin bir nedeninin her iki şirketin de müşterileri cezbetmek için kullanıcılara mali destek vermesi olduğunu söyledi. Aylık aboneliklerin artık büyük bir indirimle token sunduğunu ancak bunun muhtemelen sonsuza kadar sürmeyeceğini söyledi.
“O zaman Çin modellerini ve açık kaynak modellerini değerlendirmeye başlamak bizim için çok daha anlamlı olacak” dedi.
Ara Kharazian, işletmelerin harcamaları izlemesine, kontrol etmesine ve otomatikleştirmesine yardımcı olan bir şirket olan Ramp’ın baş ekonomistidir. Yapay zeka harcamalarına dair içgörüleri var ve Kharazian, ABD şirketlerinin uyum sağlamaya devam edeceğini, başka bir deyişle fiyatları kontrol altında tutabileceklerini veya Çinli rakipleri geride bırakmak amacıyla yüksek kaliteli açık kaynaklı modeller sunabileceklerini düşündüğünü söyledi.
“Bu Çin modellerinin yükselişi, işletmelerin bugün Amerikan model şirketleri tarafından sunulmayan bir şeyi istediğinin göstergesidir” dedi. “Çin modelleri konusunda olumsuz düşünmemin tek nedeni, Amerikan model şirketlerinin rekabetçi bir şekilde tepki vereceğini varsaymamdır.”
Comment.io’dan Gordner ise daha az kesin. Büyük ABD AI şirketlerinin ücret almaya başlaması gerekebileceğini düşünüyor Daha Yapay zeka için, muhtemelen halka açılmaya yaklaştıkça karlılık gösterme baskısı artıyor. İkisi birden Antropik ve OpenAI, nihai halka arzlarda ilerleme sağlamak için ABD hükümetine gizli evraklar sundu.
Gordner, “Bir noktada müzik duracak” dedi.
Antropik, NPR’nin mali destekçisidir.
