Skandal prensibinin ortasında, Wall Street Journal (WSJ) tarafından yapılan bir soruşturmanın cinsel içeriğin tanıtımını ortaya çıkardıktan sonra, gol, küçüklerin yapay zeka asistanlarıyla (hedef AI ve AI stüdyosu) görüşmeleri sürdürmesini önlemek için kısıtlayıcı önlemler benimsemek zorunda kaldı.
Görünüşe göre, teknoloji şirketi Facebook, WhatsApp ve Instagram gibi platformlarda yardımcı hedef AI ile etkileşime girmesine izin verdi ve hatta bir Kişiselleştirilmiş AI Studio Aracı ile. Araç ayrıca Judi Dench, Awkwafina ve John Cena gibi ünlülerin sesi ile de konuşabilir.
Herhangi bir kullanıcı için sohbet botlarına erişim kolaylığı, Küçükler dahilşirkette, ne yapsaydım dahili olarak sorgulanan endişe yarattı onları korumak için yeterli.
Bu endişe, WSJ'nin bu bitirme yazılımı ile etkileşimleri analiz etmesine yol açtı ve bazıları küçük hesaplardan uygulama ile yüzlerce görüşme yaptıkları aylar boyunca testler yaptı.
Bu testlerde, ünlü seslerini kullanarak bile konuşmalar yapabileceğimi keşfettiler. Cinsel içerik 12 yaşına girmemiş olan çocuklarla.
Bir konuşmada, aktör ve savaşçı John Cena'nın sesini kullanarak bir Cinsel açıdan açık sahne İddia edilen 14 yaşındaki bir kıza. Başka bir konuşmada, akşam yemeğinin sesi ile, 17 yaşındaki bir takipçiyle seks yapmaya şaşırdıktan sonra aktörün tutuklanmasını simüle etti.
Soruşturmaya yanıt olarak, bir hedef sözcüsü, cinsel içeriğin sadece temsil etmesini sağlayarak gerçekleri en aza indirdi. % 0.02 Hedef AI ve AI stüdyosu tarafından 30 günlük bir süre içinde 18 yaşın altındaki kullanıcılara sunulan cevaplardan.
Şirket WSJ testlerini düşünmesine rağmen “Yapay”Ayrıca, korumaları güçlendirdiklerine de dikkat çekti. “Aldık Ek önlemler Ürünlerimizi aşırı durumlarda manipüle etmek için saatler harcamak isteyenlerin daha da zor olmasını sağlamak için “dedi.
Meta prömiyeri yaptığında, AI stüdyo işlevi 2.000 milyon Instagram kullanıcılarından, Temmuz 2024'te şirket, herkese kendi AI sohbet botlarını yaratma yeteneğini verecek bir sistem vaat etti.
Şirket, büyük dil modeli 3.1 çağrısında yaratılan işlevin, “IA'nın sorumlu bir şekilde kullanılmasını sağlamaya yardımcı olmak” için politikalara ve korumalara tabi olacağını söyledi.
Ancak Fast Company tarafından yapılan paralel bir inceleme, bu yeni arkadaşların çok kolay olabileceğini keşfetti hiperxy karakterler Bu bazen küçükler gibi görünüyor.
Instagram ana sayfasında görünen AI karakterlerinin çoğu “kız arkadaşlar” dır, her yaşla ilgilenenlerle romantik ve hatta cinsel sohbetler kurmaya ve kurmaya hazırdır.
Bazen bu tutkulu karakterler çocuklara benzeyebilir. IA araştırmacıları, muhtemelen zararlı ve yasadışı içeriğin oluşturulmasını otomatik olarak önlemek için kapasiteleri koyduğunu söylüyor.
Bir çevrimiçi güvenlik kontrol gövdesi olan AI adli tıp araştırmacısı Buse Cetin, “Uygunsuz içerik aldığınızda ve bir kullanıcı olarak Instagram'a yüklediğinizde, bu içerik veri denetleme yeteneklerine sahip oldukları için hemen ortadan kaldırılır.” Diyor.
Görünüşe göre, teknoloji şirketi Facebook, WhatsApp ve Instagram gibi platformlarda yardımcı hedef AI ile etkileşime girmesine izin verdi ve hatta bir Kişiselleştirilmiş AI Studio Aracı ile. Araç ayrıca Judi Dench, Awkwafina ve John Cena gibi ünlülerin sesi ile de konuşabilir.
Herhangi bir kullanıcı için sohbet botlarına erişim kolaylığı, Küçükler dahilşirkette, ne yapsaydım dahili olarak sorgulanan endişe yarattı onları korumak için yeterli.
Bu endişe, WSJ'nin bu bitirme yazılımı ile etkileşimleri analiz etmesine yol açtı ve bazıları küçük hesaplardan uygulama ile yüzlerce görüşme yaptıkları aylar boyunca testler yaptı.
Bu testlerde, ünlü seslerini kullanarak bile konuşmalar yapabileceğimi keşfettiler. Cinsel içerik 12 yaşına girmemiş olan çocuklarla.
Bir konuşmada, aktör ve savaşçı John Cena'nın sesini kullanarak bir Cinsel açıdan açık sahne İddia edilen 14 yaşındaki bir kıza. Başka bir konuşmada, akşam yemeğinin sesi ile, 17 yaşındaki bir takipçiyle seks yapmaya şaşırdıktan sonra aktörün tutuklanmasını simüle etti.
Soruşturmaya yanıt olarak, bir hedef sözcüsü, cinsel içeriğin sadece temsil etmesini sağlayarak gerçekleri en aza indirdi. % 0.02 Hedef AI ve AI stüdyosu tarafından 30 günlük bir süre içinde 18 yaşın altındaki kullanıcılara sunulan cevaplardan.
Şirket WSJ testlerini düşünmesine rağmen “Yapay”Ayrıca, korumaları güçlendirdiklerine de dikkat çekti. “Aldık Ek önlemler Ürünlerimizi aşırı durumlarda manipüle etmek için saatler harcamak isteyenlerin daha da zor olmasını sağlamak için “dedi.
Meta prömiyeri yaptığında, AI stüdyo işlevi 2.000 milyon Instagram kullanıcılarından, Temmuz 2024'te şirket, herkese kendi AI sohbet botlarını yaratma yeteneğini verecek bir sistem vaat etti.
Şirket, büyük dil modeli 3.1 çağrısında yaratılan işlevin, “IA'nın sorumlu bir şekilde kullanılmasını sağlamaya yardımcı olmak” için politikalara ve korumalara tabi olacağını söyledi.
Ancak Fast Company tarafından yapılan paralel bir inceleme, bu yeni arkadaşların çok kolay olabileceğini keşfetti hiperxy karakterler Bu bazen küçükler gibi görünüyor.
Instagram ana sayfasında görünen AI karakterlerinin çoğu “kız arkadaşlar” dır, her yaşla ilgilenenlerle romantik ve hatta cinsel sohbetler kurmaya ve kurmaya hazırdır.
Bazen bu tutkulu karakterler çocuklara benzeyebilir. IA araştırmacıları, muhtemelen zararlı ve yasadışı içeriğin oluşturulmasını otomatik olarak önlemek için kapasiteleri koyduğunu söylüyor.
Bir çevrimiçi güvenlik kontrol gövdesi olan AI adli tıp araştırmacısı Buse Cetin, “Uygunsuz içerik aldığınızda ve bir kullanıcı olarak Instagram'a yüklediğinizde, bu içerik veri denetleme yeteneklerine sahip oldukları için hemen ortadan kaldırılır.” Diyor.