Elma Günler önce açıldı tartışma Dünyasında yapay zeka (AI) yayınlanmasıyla çalışmak Bu teknolojinin söylemsel sütunlarından birine doğrudan işaret ediyor: modellerin chatgpt olarak sözde kapasitesi “sebep”.
O Kağıtbaşlıklı Düşünme yanılsamasıgörünüşlere rağmen, üretken AI sistemleri İnsanların nasıl olduğunu düşünmüyorlar veya neden değillerve dağıtım gibi görünen bu “akıl yürütme” bile verimsiz olabilir.
Bilim adamları tarafından imzalanan araştırma Apple Machine Öğrenme AraştırmasıCupertino şirketinin Openai, Google veya Antropik gibi rakiplerle, ileri dil modellerinin geliştirilmesinde liderler ile gecikmiş göründüğü bir zamanda geliyor.
Bu nedenle, birçok gözlemci yakında çalışmayı bir girişim olarak görüyor Başkalarına vur Tamamen akademik bir katkıdan daha fazlası.
Yine de, işin içeriği fark edilmez. Apple, yeni bir model kategorisi öneriyor Büyük akıl yürütme modelleri (LRMS)bir cevap vermeden önce ara akıl yürütme oluşturmak için tasarlanmıştır. Amaç: Mantıksal süreçlerin açık bir şekilde dahil edilmesinin farklı görev türlerinde AI'nın performansını iyileştirip geliştirmediğini değerlendirin.
Apple neden chatgpt gibi modellerin düşünmemesini sağlıyor
“Düşünme Yanılsaması”: Apple'ın Mask Ai'yi kaldırmaya çalıştığı kağıt.
İçin Öğrenilenden elde edilen önyargılardan kaçının Eğitim sırasında, araştırmacılar bu modelleri bir dizi bir dizi Sentetik bilmeceler Klasik Torre de Hanói, bayanların atlaması (denetleyici atlama), nehir haçları ve blok manipülasyon problemleri (dünyayı bloke). Oldu Özellikle mantıklı düşünce talep etmek için oluşturulan senaryolar Ve Adım adım planlama.
Sonuçlar şaşırtıcıydı: LRMS, orta karmaşıklık zorluklarında geleneksel modellere göre bir avantaj göstermesine rağmen, Zorluk arttığında tamamen çöktüler.
Dahası, bu çöküş hesaplama kaynaklarının eksikliğinden değil, daha rahatsız edici bir fenomenden kaynaklanıyordu; “Akıl yürütme çabanız, sorunun karmaşıklığı ile bir dereceye kadar artar, Sonra azaltın yeterli bir bütçeye sahip olmasına rağmen. “
Çarpıcı olan şey, basit testlerde, akıl yürütme modelleri Standart modellerden bile daha kötü. Yani, görevler gelişmiş mantık gerektirmediğinde, Çok fazla düşünün bir engel olabilir.
“Modellerin ilk başarısız hareketini araştırırken, Şaşırtıcı davranışlar. Örneğin, Hanói Kulesi'nde 100'e kadar doğru hareket gerçekleştirebilirler, ancak nehir geçişinin bulmacasında 5'ten fazla doğru hareket yapamadılar, “diye ekleyin yazarlar.
Birlikte çalışma Hikayeyi kontrol altına alın Bir insan seviyesinin yapay zekasının kapılarında olduğumuzu veya hatta bir AGI (Yapay genel zeka veya Genel yapay zeka).
Apple, bu fikrin bir yanılsama: Modellerin mantıksal adımları gerçek bir problem anlayışı ile sözlü olarak ifade etme yeteneğini karıştırmak.
Bu anlamda, çalışmanın sonucu kategoriktir: Akıl yürütme gibi görünen şey, öğrenilen kalıpların yankısından başka bir şey değildir. AI, en azından şimdilik, Sebep etme: simüle ediyor. Ve simülasyon bilinen kenar boşluklarının dışında talep edildiğinde, Kırır.
Apple AI yarışında geri dönüyor
Apple hala eşit şartlarda rekabet eden kendi modelini başlatamadı. (Fotoğraf: Reuters)
Bu vizyon, akıl yürütme işlevlerini modellerine açıkça dahil eden diğer teknolojik devler tarafından benimsenen kursla tezat oluşturuyor. Bu kadar GPT-4 ile Openaigibi İkizler ile Google Ve Claude ile antropikdaha özerk ve güvenilir sistemlere doğru bir adım olarak görülen kapasiteleri güçlendirmeyi amaçlamaktadırlar.
Kritik taraftan, Apple'ın çalışmasının büyük bir başarısızlık keşfetmediğini gösteren eksik sesler yoktu, ancak zaten bilinen bir fenomeni tanımlıyor: İyice düşünmek. Yani bazı modellerin gereksiz yere uzun ve karmaşık bir akıl yürütme üretmekhatalara veya tıkanmalara yol açabilir.
Ayrıca Apple'ın Rakiplerinin zirvesinde kendisi olmadanyabancı ilerlemeleri itibarsızlaştırma teşvikleri var. Şirket, Openai gibi aktörlerle anlaşmaları sürdürüyor, ancak henüz kendi dilinin bir modelini başlatmadı eşit şartlarda rekabet eden.
Kağıt arkasındaki niyetlerin ötesinde, gerçek şu ki Apple masaya önemli bir tartışma koymayı başardı: Yapay zeka için gerçekten “düşünme” anlamına geliyor? Formu arka planla mı karıştırıyoruz?
Konuşma sistemleri tarafından öfori ortasında, Düşünme yanılsaması Bir fren kaldırır. Ve tartışma kapanmasa da, En çok tekrarlanan fantezilerden biri Şu andan itibaren: bu makineler nihayet düşünmeye başlıyor.
O Kağıtbaşlıklı Düşünme yanılsamasıgörünüşlere rağmen, üretken AI sistemleri İnsanların nasıl olduğunu düşünmüyorlar veya neden değillerve dağıtım gibi görünen bu “akıl yürütme” bile verimsiz olabilir.
Bilim adamları tarafından imzalanan araştırma Apple Machine Öğrenme AraştırmasıCupertino şirketinin Openai, Google veya Antropik gibi rakiplerle, ileri dil modellerinin geliştirilmesinde liderler ile gecikmiş göründüğü bir zamanda geliyor.
Bu nedenle, birçok gözlemci yakında çalışmayı bir girişim olarak görüyor Başkalarına vur Tamamen akademik bir katkıdan daha fazlası.
Yine de, işin içeriği fark edilmez. Apple, yeni bir model kategorisi öneriyor Büyük akıl yürütme modelleri (LRMS)bir cevap vermeden önce ara akıl yürütme oluşturmak için tasarlanmıştır. Amaç: Mantıksal süreçlerin açık bir şekilde dahil edilmesinin farklı görev türlerinde AI'nın performansını iyileştirip geliştirmediğini değerlendirin.
Apple neden chatgpt gibi modellerin düşünmemesini sağlıyor
“Düşünme Yanılsaması”: Apple'ın Mask Ai'yi kaldırmaya çalıştığı kağıt.
İçin Öğrenilenden elde edilen önyargılardan kaçının Eğitim sırasında, araştırmacılar bu modelleri bir dizi bir dizi Sentetik bilmeceler Klasik Torre de Hanói, bayanların atlaması (denetleyici atlama), nehir haçları ve blok manipülasyon problemleri (dünyayı bloke). Oldu Özellikle mantıklı düşünce talep etmek için oluşturulan senaryolar Ve Adım adım planlama.
Sonuçlar şaşırtıcıydı: LRMS, orta karmaşıklık zorluklarında geleneksel modellere göre bir avantaj göstermesine rağmen, Zorluk arttığında tamamen çöktüler.
Dahası, bu çöküş hesaplama kaynaklarının eksikliğinden değil, daha rahatsız edici bir fenomenden kaynaklanıyordu; “Akıl yürütme çabanız, sorunun karmaşıklığı ile bir dereceye kadar artar, Sonra azaltın yeterli bir bütçeye sahip olmasına rağmen. “
Çarpıcı olan şey, basit testlerde, akıl yürütme modelleri Standart modellerden bile daha kötü. Yani, görevler gelişmiş mantık gerektirmediğinde, Çok fazla düşünün bir engel olabilir.
“Modellerin ilk başarısız hareketini araştırırken, Şaşırtıcı davranışlar. Örneğin, Hanói Kulesi'nde 100'e kadar doğru hareket gerçekleştirebilirler, ancak nehir geçişinin bulmacasında 5'ten fazla doğru hareket yapamadılar, “diye ekleyin yazarlar.
Birlikte çalışma Hikayeyi kontrol altına alın Bir insan seviyesinin yapay zekasının kapılarında olduğumuzu veya hatta bir AGI (Yapay genel zeka veya Genel yapay zeka).
Apple, bu fikrin bir yanılsama: Modellerin mantıksal adımları gerçek bir problem anlayışı ile sözlü olarak ifade etme yeteneğini karıştırmak.
Bu anlamda, çalışmanın sonucu kategoriktir: Akıl yürütme gibi görünen şey, öğrenilen kalıpların yankısından başka bir şey değildir. AI, en azından şimdilik, Sebep etme: simüle ediyor. Ve simülasyon bilinen kenar boşluklarının dışında talep edildiğinde, Kırır.
Apple AI yarışında geri dönüyor
Bu vizyon, akıl yürütme işlevlerini modellerine açıkça dahil eden diğer teknolojik devler tarafından benimsenen kursla tezat oluşturuyor. Bu kadar GPT-4 ile Openaigibi İkizler ile Google Ve Claude ile antropikdaha özerk ve güvenilir sistemlere doğru bir adım olarak görülen kapasiteleri güçlendirmeyi amaçlamaktadırlar.
Kritik taraftan, Apple'ın çalışmasının büyük bir başarısızlık keşfetmediğini gösteren eksik sesler yoktu, ancak zaten bilinen bir fenomeni tanımlıyor: İyice düşünmek. Yani bazı modellerin gereksiz yere uzun ve karmaşık bir akıl yürütme üretmekhatalara veya tıkanmalara yol açabilir.
Ayrıca Apple'ın Rakiplerinin zirvesinde kendisi olmadanyabancı ilerlemeleri itibarsızlaştırma teşvikleri var. Şirket, Openai gibi aktörlerle anlaşmaları sürdürüyor, ancak henüz kendi dilinin bir modelini başlatmadı eşit şartlarda rekabet eden.
Kağıt arkasındaki niyetlerin ötesinde, gerçek şu ki Apple masaya önemli bir tartışma koymayı başardı: Yapay zeka için gerçekten “düşünme” anlamına geliyor? Formu arka planla mı karıştırıyoruz?
Konuşma sistemleri tarafından öfori ortasında, Düşünme yanılsaması Bir fren kaldırır. Ve tartışma kapanmasa da, En çok tekrarlanan fantezilerden biri Şu andan itibaren: bu makineler nihayet düşünmeye başlıyor.