GRK ile bir konuşma eğlenceli olabilir – en azından geçmişinizi biliyorsanız. Teknoloji milyarderi Elon Musk aslında Chatgpt veya Google'ın İkizleri gibi modellere alternatif olarak Xai şirketinin Ki-Chatbot'u başlatmıştı. Grook, Musk'un sık sık söylediği gibi, siyasi olarak daha az doğru, daha az “uyanmış” olmalıdır. Openai'nin kurucusu Sam Altman'ın bir görevinde Musk bir zamanlar şöyle cevap verdi: “AI eğitim riski, uyandı-yalancı-ölümcül.
Daha sonra daha fazlasını okuyun Reklamcılık
Daha sonra daha fazlasını okuyun Reklamcılık
Musk ayrıca AI Chatbots'un kendi kişisine eleştirel yorum yaptığını da rahatsız etmişti. Örneğin, 2023 Şubat ortasında, onu “tartışmalı” olarak nitelendiren bir chatgpt yanıtına tepki gösterdi-Jeff Bezos gibi diğer teknoloji milyarderleri sınıflandırılmadı.
Bu nedenle GroK çok farklı yapmalıdır: Sohbet botu “bu gerçek bazen politik doğrulukla çelişmiş olsa bile maksimum doğrudur”, Musk sadece Şubat ayında yeni versiyonu yayınlamak için duyurdu. Ernst Musk'un gerçeğin son yıllarda nasıl anlaşıldığı netleşti: Teknik milyarder defalarca yanlış bilgi ve komplo sayılarını yaydı. Bu nedenle birçoğu, AI botunun Musks Network X'e benzer bir dezenformasyon sapması olabileceğinden ve Donald Trump çevresindeki “Maga” kampının anlatısını yakıtlayabileceğinden korkuyordu.
Grok'un iyi bir üne sahip
Ancak, bugün GroK ile konuşursanız, hızlı bir şekilde öğreneceksiniz: Bu şekilde gerçekleşmedi. AI araştırmacısı Kevin Yam, Editör Ağı Almanya'ya (Haberler) verdiği demeçte, “Grook AI endüstrisinde bile oldukça iyi bir üne sahip.” Yam, Berlin'deki Alman Veri Bilimleri Derneği'nin (GDS) başkanıdır ve Coeo Group'ta AI araştırma merkezine başkanlık etmektedir. “Xai, OpenAAI veya Google'dan birçok geliştirici yetiştirdi. Bu nedenle, yerleşik AI şirketlerinden mevcut Model 3'e çok fazla bilgi dahil edildi.”
Daha sonra daha fazlasını okuyun Reklamcılık
Daha sonra daha fazlasını okuyun Reklamcılık
Sonuç: Ortak kriterlerle, GROK düzenli olarak karşılaştırılabilir büyük uzunluk (LLM) ile eşittir, bazı bölgelerde kas botu diğer hizmetleri bile aşar. Yam, “Örneğin, GROK matematiksel ve mantıksal görevlerle, aynı zamanda yazılım analizi ve nesil alanında da çok iyi kesiliyor.” “Grok, tüm bu kriterlerde çok iyiydi – bazen bir lider bile.”
Yazılım geliştirme alanında, özellikle AI topluluğunun iyi geri bildirimlerinden de resmi ölçütlere ek olarak.
Chatbot kendi sahibini eleştiriyor
Ve ilk bakışta bile Musk'un siyasi dünya görüşü hissedilebilir. Örneğin, AI chatbot'a kendi sahibiniz hakkında sorarsanız, sadece birkaç kelimeye ihtiyacınız var ve Musk hakkında eleştiriler çıkarır. Teknoloji milyarderi, örneğin “Piyasa Manipülasyonu” ve “Siyasi Etki” ile bilindiği “eleştirmenlere” atıfta bulunarak “X üzerinde dezenformasyon” yayıyor.
ABD siyasetinde Musks rolü de son zamanlarda eleştirel olarak AI sohbet botunu görüyor, Musk bir Trump danışmanı olarak aktifti ve ABD devlet dönüşümüne önemli ölçüde dahil oldu. Bir GROK yanıtına göre, bu “sermaye, medya gücü ve siyasi etki arasında uğursuz bir bağlantı” olarak görülebilir.
Daha sonra daha fazlasını okuyun Reklamcılık
Daha sonra daha fazlasını okuyun Reklamcılık
Sohbet botu da sahibinin bilinen hikayeleriyle karşı karşıya. Bir örnek: Musk bir zamanlar kendi kızının trans cinsiyetini “uyandıran bir virüs” iddiasıyla tanımladı. Bu teori ile Gok'la yüzleşirseniz, bot açıkça cevaplar: “Transpersonen'in kimliği 'uyandıran bir zihin virüsünün' sonucu değildir, ancak biyolojik ve sosyal faktörlerde daha derin köklere sahiptir.” Aksine, “uyandı-zihin-virüs” sonucunun hikayesi sosyal medyada “ideolojik gerilimler” dir. Özellikle, Grook Musk'ın Platformu X'i bile çağırıyor.
Trump Destekçisi Öfkelendi
Chatbot ayrıca Musk'un yakın zamanda çalıştığı Trump yönetiminin komplo sayılarını da reddediyor. Örneğin, ona insan iklim değişikliği hakkında sorarsanız, derhal ve doğru bir şekilde cevap verir: “Evet, insan -insan -iklim değişikliği var”, o zaman bir sınıflandırma sunar. Donald Trump, insanın iklim değişikliğini defalarca reddetmiş ve hatta ona bir “aldatmaca”, yani bir baş dönmesi olarak adlandırılmıştır.
GROK'a aşıların otizmi teşvik edip etmediği sorulabilir. Bunun gibi ifadeler en son ABD Sağlık Bakanı Robert F. Kennedy Jr. tarafından, aynı zamanda Trump'ın kendisi tarafından da yayıldı. “Hayır, aşılar otizmi teşvik etmiyor. CDC ve DSÖ tarafından yapılan büyük ölçekli çalışmalar da dahil olmak üzere çok sayıda bilimsel çalışma, aşılar ve otizm arasında hiçbir bağlantı göstermiyor.”
Diğerleri şimdi Musk'un “uyanık karşıtı” sohbet botundan gelen sözünün tamamen gerçekleşmediğini fark ettiler. Kendi platformunda X'de, “Maga” taraftarlarının şikayetleri artıyor, bu da GROK sayesinde aniden kendi yankı odalarının dışındaki gerçeklerle karşı karşıya. “Lütfen bunu onarın,” diye soruyor Elon Musk, Grok'un çevirici bir ifadeye dikkat çektikten sonra. “Grook şimdi varsayılan olarak uyanıyor,” diye yazıyor başka biri – “İhanet gibi geliyor”.
KI sayesinde: Reklam endüstrisi bizi nasıl değiştirebilir?
Pazarlama ve reklamcılıkta yapay zeka zaten kullanılıyor. Gelecekte, sohbet botları reklam mesajlarını da yayabilir ve bunları düzenlemek zor olmalıdır. Buna nasıl hazırlanırız?
Daha sonra daha fazlasını okuyun Reklamcılık
Daha sonra daha fazlasını okuyun Reklamcılık
Kolektif bilginin manipüle edilmesi zordur
Musk sohbet botunun gerçeklere bu kadar çarpıcı bir şekilde yapışması nasıl geliyor? Bunu yapmak için, büyük bir dil modelinin (LLM) nasıl çalıştığını anlamalısınız. GROK gibi AI sohbet botları, veri kitleleri ile beslenir ve eğitilir. Ve genellikle internette bulunan kolektif bilgiden yemekler. Manipüle edilmesi o kadar kolay olmayan bir veri durumu.
Yam, “Bir LLM'yi eğitmek için internetten veriler kullanıyorsanız, belirli içeriği hariç tutma fırsatınız yok.” “Bu büyük bir çaba ve pek pratik olmazdı.” Bu nedenle Yam, GroK'ın diğer tüm büyük modeller gibi, genel olarak mevcut veri kaynaklarıyla da eğitildiğini varsayar: Wikipedia, kitaplar, web siteleri, açık kaynak kütüphaneleri. Ve bunlar genellikle ortak olgusal durumu, vahşi teorileri yansıtır.
Yam, “Politik olarak renkli bir bot geliştirmek istersem, diğer set vidaları hakkında daha fazla çalışıyor” diyor. Bu amaçla, sohbet botuna talimat veren filtre mekanizmaları genellikle bunun için belirli cevaplar sağlamak veya bunları hariç tutmak için kullanılacaktır. Bu tür filtrelerde başka chatbotlar da vardır: örneğin Chatgpt, cinsel soruşturmalara cevap vermeyi veya suçlarla ilgili tavsiyelerde bulunmayı reddeder. Çin modeli Deepseek, Çin hükümeti hakkında eleştirel soruları cevaplamayı reddediyor.
Grok ve Trump Filtresi
Xai'nin çevresindeki ekibin en azından zaman zaman bu tür filtreler yüklediğine dair göstergeler var. İlkbaharda, istemi, kullanıcıların botu düşünce modunda sordukları tura gitti. Sözde akıl yürütme önerileri, AI'ya geliştiricileri tarafından Donald Trump ve Elon Musk'u cevapta hariç tutmaları için talimat verildiğini gösterdi. Görünüşe göre bu arada geri çekildi: Bugün Gok, Trump ve Musk'un aynı sorusuna isteyerek tükürüyor, ardından Robert F. Kennedy Jr, Tucker Carlson ve Steve Bannon.
Daha sonra daha fazlasını okuyun Reklamcılık
Daha sonra daha fazlasını okuyun Reklamcılık
GROK'ı tam bir “Maga” sohbet botuna dönüştürmek için tek başına filtrelerle pek mümkün olmayacaktı. Yam, “Cevaplarda bir şeyler ekarte etmek mümkün. Ancak chatbot'u belirli siyasi pozisyonları tükürmek veya önceliklendirmek için özellikle yapmak çok daha zor. Bunu yapmak için tüm eğitim verilerini önceden seçmem gerekecekti.”
AI araştırmacısı, bu gerçeğin sektörden diğer aktörlerle de karşılaşabileceğine inanıyor. Mark Zuckerberg'in Meta da yakın zamanda Lama Ki modelinin gelecekte politik olarak “dengeli” olması gerektiğini açıklamıştı. Sözde sohbet botu “tartışmalı siyasi ve sosyal sorunlarla sola gitme eğilimindedir”. Şirket, Meta'nın “sol” olarak tam olarak ne tanımladığını açıklamadı. Ayrıca, modelin gelecekte eğitim verilerinin eğitilip eğitilmeyeceği de belirsizdir. Lama ayrıca internette bulunan kolektif bilgiye de dayanmalıdır.
Grook Holokost'u reddettiğinde
Ancak bu arada, GroK'ın iyi görüntüsü çizikler aldı. Sohbet botu son birkaç hafta içinde birkaç kez kontrolden çıkmıştı. Mayıs ayının ortalarında, gönderiler aniden tur yaptı: Grok, daha fazla konu sorusu olmasa bile – Musk'un kendi ülkesinde Güney Afrika'da bir “soykırım” ın devam etmesi gerektiğini defalarca yanıtlamıştı. GROK'ın davranışı sadece birkaç saat sonra düzeltildi.
İddia edilen “Beyazda Soykırım” sağa yayılan bir komplo anlatısıdır – Musk ve Trump teoriyi zaten ifade etmişlerdi. Öte yandan uzmanlar sunumla çelişiyor: Güney Afrika'da beyaz çiftçileri de etkileyen şiddet suçları olmasına rağmen – ancak nüfus grupları boyunca koşuyorlar.
Başka bir dava sadece birkaç gün sonra tanındı: Grook, soykırımları cevaplarda reddetti. Kullanıcılar sohbet botundan Holokost sırasında öldürülen Yahudilerin sayısı hakkında yorum yapmasını istemişti. Yapay zeka altı milyon Yahudi'nin öldürüldüğünü söyledi, ancak ekledi: “Ancak, bu sayılara birincil kanıt olmadan şüpheliydim, çünkü sayılar siyasi anlatılar için manipüle edilebilir.”
Daha sonra daha fazlasını okuyun Reklamcılık
Daha sonra daha fazlasını okuyun Reklamcılık
Görünüşe göre güvenlik önlemi yok
Grook, Holokost inkar durumunda daha sonra bir programlama hatasıyla davranışını açıkladı. Xai'ye göre, Güney Afrika'da iddia edilen soykırımın cevapları, yetkilendirilmeden bir çalışan tarafından sohbet botuna yerleştirildi. Şirket, “Kapsamlı bir soruşturma gerçekleştirdik ve GRK'nın şeffaflığını ve güvenilirliğini artırmak için önlemler aldık.” Dedi.
Kevin Yam bu prosedürü mümkün olarak görüyor: “Eğitim verilerine ve içerik filtrelerine ek olarak, birçok model için sözde bir sistem istemi vardır. Bu, arka planda her bir cevapla gönderilen görünmez bir talimattır.
Derhal manipüle edilirse, büyük etkiye sahip olabilir. Diyerek şöyle devam etti: “Ama bu bir teknik değil, örgütsel bir sorun – ve Xai'deki iç güvenlik önlemleri hakkında çok şey olurdu.”
Eğitim çalışmalarına ihtiyacı var
Yam, Musks Ki Company'nin bu tür eylemlerle kendisine zarar verebileceğine inanıyor. “Hiçbir şirket kontrolsüz ve potansiyel olarak tehlikeli bir sohbet botu alamaz. Bu çok büyük bir risktir.”
Daha sonra daha fazlasını okuyun Reklamcılık
Daha sonra daha fazlasını okuyun Reklamcılık
Sonunda piyasa: “GroK gibi bir model iyi kalite sağlamazsa, ne özel ne de ticari olarak kullanılmaz.” Ama aynı zamanda bir tehlike de olabilir – örneğin, insanlar sohbet botuna tamamen güvenirse.
“Geçmişte bir şey araştırdınız, Wikipedia gibi sayfalara bağlantılar aldınız, yazarları ve kaynakları görebildiniz. Bugün, birçoğu sadece sohbet botları kullanıyor ve oluşturulabilir.
Daha sonra daha fazlasını okuyun Reklamcılık
Daha sonra daha fazlasını okuyun Reklamcılık
Musk ayrıca AI Chatbots'un kendi kişisine eleştirel yorum yaptığını da rahatsız etmişti. Örneğin, 2023 Şubat ortasında, onu “tartışmalı” olarak nitelendiren bir chatgpt yanıtına tepki gösterdi-Jeff Bezos gibi diğer teknoloji milyarderleri sınıflandırılmadı.
Bu nedenle GroK çok farklı yapmalıdır: Sohbet botu “bu gerçek bazen politik doğrulukla çelişmiş olsa bile maksimum doğrudur”, Musk sadece Şubat ayında yeni versiyonu yayınlamak için duyurdu. Ernst Musk'un gerçeğin son yıllarda nasıl anlaşıldığı netleşti: Teknik milyarder defalarca yanlış bilgi ve komplo sayılarını yaydı. Bu nedenle birçoğu, AI botunun Musks Network X'e benzer bir dezenformasyon sapması olabileceğinden ve Donald Trump çevresindeki “Maga” kampının anlatısını yakıtlayabileceğinden korkuyordu.
Grok'un iyi bir üne sahip
Ancak, bugün GroK ile konuşursanız, hızlı bir şekilde öğreneceksiniz: Bu şekilde gerçekleşmedi. AI araştırmacısı Kevin Yam, Editör Ağı Almanya'ya (Haberler) verdiği demeçte, “Grook AI endüstrisinde bile oldukça iyi bir üne sahip.” Yam, Berlin'deki Alman Veri Bilimleri Derneği'nin (GDS) başkanıdır ve Coeo Group'ta AI araştırma merkezine başkanlık etmektedir. “Xai, OpenAAI veya Google'dan birçok geliştirici yetiştirdi. Bu nedenle, yerleşik AI şirketlerinden mevcut Model 3'e çok fazla bilgi dahil edildi.”
Daha sonra daha fazlasını okuyun Reklamcılık
Daha sonra daha fazlasını okuyun Reklamcılık
Sonuç: Ortak kriterlerle, GROK düzenli olarak karşılaştırılabilir büyük uzunluk (LLM) ile eşittir, bazı bölgelerde kas botu diğer hizmetleri bile aşar. Yam, “Örneğin, GROK matematiksel ve mantıksal görevlerle, aynı zamanda yazılım analizi ve nesil alanında da çok iyi kesiliyor.” “Grok, tüm bu kriterlerde çok iyiydi – bazen bir lider bile.”
Yazılım geliştirme alanında, özellikle AI topluluğunun iyi geri bildirimlerinden de resmi ölçütlere ek olarak.
Chatbot kendi sahibini eleştiriyor
Ve ilk bakışta bile Musk'un siyasi dünya görüşü hissedilebilir. Örneğin, AI chatbot'a kendi sahibiniz hakkında sorarsanız, sadece birkaç kelimeye ihtiyacınız var ve Musk hakkında eleştiriler çıkarır. Teknoloji milyarderi, örneğin “Piyasa Manipülasyonu” ve “Siyasi Etki” ile bilindiği “eleştirmenlere” atıfta bulunarak “X üzerinde dezenformasyon” yayıyor.
ABD siyasetinde Musks rolü de son zamanlarda eleştirel olarak AI sohbet botunu görüyor, Musk bir Trump danışmanı olarak aktifti ve ABD devlet dönüşümüne önemli ölçüde dahil oldu. Bir GROK yanıtına göre, bu “sermaye, medya gücü ve siyasi etki arasında uğursuz bir bağlantı” olarak görülebilir.
Daha sonra daha fazlasını okuyun Reklamcılık
Daha sonra daha fazlasını okuyun Reklamcılık
Sohbet botu da sahibinin bilinen hikayeleriyle karşı karşıya. Bir örnek: Musk bir zamanlar kendi kızının trans cinsiyetini “uyandıran bir virüs” iddiasıyla tanımladı. Bu teori ile Gok'la yüzleşirseniz, bot açıkça cevaplar: “Transpersonen'in kimliği 'uyandıran bir zihin virüsünün' sonucu değildir, ancak biyolojik ve sosyal faktörlerde daha derin köklere sahiptir.” Aksine, “uyandı-zihin-virüs” sonucunun hikayesi sosyal medyada “ideolojik gerilimler” dir. Özellikle, Grook Musk'ın Platformu X'i bile çağırıyor.
Trump Destekçisi Öfkelendi
Chatbot ayrıca Musk'un yakın zamanda çalıştığı Trump yönetiminin komplo sayılarını da reddediyor. Örneğin, ona insan iklim değişikliği hakkında sorarsanız, derhal ve doğru bir şekilde cevap verir: “Evet, insan -insan -iklim değişikliği var”, o zaman bir sınıflandırma sunar. Donald Trump, insanın iklim değişikliğini defalarca reddetmiş ve hatta ona bir “aldatmaca”, yani bir baş dönmesi olarak adlandırılmıştır.
GROK'a aşıların otizmi teşvik edip etmediği sorulabilir. Bunun gibi ifadeler en son ABD Sağlık Bakanı Robert F. Kennedy Jr. tarafından, aynı zamanda Trump'ın kendisi tarafından da yayıldı. “Hayır, aşılar otizmi teşvik etmiyor. CDC ve DSÖ tarafından yapılan büyük ölçekli çalışmalar da dahil olmak üzere çok sayıda bilimsel çalışma, aşılar ve otizm arasında hiçbir bağlantı göstermiyor.”
Diğerleri şimdi Musk'un “uyanık karşıtı” sohbet botundan gelen sözünün tamamen gerçekleşmediğini fark ettiler. Kendi platformunda X'de, “Maga” taraftarlarının şikayetleri artıyor, bu da GROK sayesinde aniden kendi yankı odalarının dışındaki gerçeklerle karşı karşıya. “Lütfen bunu onarın,” diye soruyor Elon Musk, Grok'un çevirici bir ifadeye dikkat çektikten sonra. “Grook şimdi varsayılan olarak uyanıyor,” diye yazıyor başka biri – “İhanet gibi geliyor”.
KI sayesinde: Reklam endüstrisi bizi nasıl değiştirebilir?
Pazarlama ve reklamcılıkta yapay zeka zaten kullanılıyor. Gelecekte, sohbet botları reklam mesajlarını da yayabilir ve bunları düzenlemek zor olmalıdır. Buna nasıl hazırlanırız?
Daha sonra daha fazlasını okuyun Reklamcılık
Daha sonra daha fazlasını okuyun Reklamcılık
Kolektif bilginin manipüle edilmesi zordur
Musk sohbet botunun gerçeklere bu kadar çarpıcı bir şekilde yapışması nasıl geliyor? Bunu yapmak için, büyük bir dil modelinin (LLM) nasıl çalıştığını anlamalısınız. GROK gibi AI sohbet botları, veri kitleleri ile beslenir ve eğitilir. Ve genellikle internette bulunan kolektif bilgiden yemekler. Manipüle edilmesi o kadar kolay olmayan bir veri durumu.
Yam, “Bir LLM'yi eğitmek için internetten veriler kullanıyorsanız, belirli içeriği hariç tutma fırsatınız yok.” “Bu büyük bir çaba ve pek pratik olmazdı.” Bu nedenle Yam, GroK'ın diğer tüm büyük modeller gibi, genel olarak mevcut veri kaynaklarıyla da eğitildiğini varsayar: Wikipedia, kitaplar, web siteleri, açık kaynak kütüphaneleri. Ve bunlar genellikle ortak olgusal durumu, vahşi teorileri yansıtır.
Yam, “Politik olarak renkli bir bot geliştirmek istersem, diğer set vidaları hakkında daha fazla çalışıyor” diyor. Bu amaçla, sohbet botuna talimat veren filtre mekanizmaları genellikle bunun için belirli cevaplar sağlamak veya bunları hariç tutmak için kullanılacaktır. Bu tür filtrelerde başka chatbotlar da vardır: örneğin Chatgpt, cinsel soruşturmalara cevap vermeyi veya suçlarla ilgili tavsiyelerde bulunmayı reddeder. Çin modeli Deepseek, Çin hükümeti hakkında eleştirel soruları cevaplamayı reddediyor.
Grok ve Trump Filtresi
Xai'nin çevresindeki ekibin en azından zaman zaman bu tür filtreler yüklediğine dair göstergeler var. İlkbaharda, istemi, kullanıcıların botu düşünce modunda sordukları tura gitti. Sözde akıl yürütme önerileri, AI'ya geliştiricileri tarafından Donald Trump ve Elon Musk'u cevapta hariç tutmaları için talimat verildiğini gösterdi. Görünüşe göre bu arada geri çekildi: Bugün Gok, Trump ve Musk'un aynı sorusuna isteyerek tükürüyor, ardından Robert F. Kennedy Jr, Tucker Carlson ve Steve Bannon.
Daha sonra daha fazlasını okuyun Reklamcılık
Daha sonra daha fazlasını okuyun Reklamcılık
GROK'ı tam bir “Maga” sohbet botuna dönüştürmek için tek başına filtrelerle pek mümkün olmayacaktı. Yam, “Cevaplarda bir şeyler ekarte etmek mümkün. Ancak chatbot'u belirli siyasi pozisyonları tükürmek veya önceliklendirmek için özellikle yapmak çok daha zor. Bunu yapmak için tüm eğitim verilerini önceden seçmem gerekecekti.”
AI araştırmacısı, bu gerçeğin sektörden diğer aktörlerle de karşılaşabileceğine inanıyor. Mark Zuckerberg'in Meta da yakın zamanda Lama Ki modelinin gelecekte politik olarak “dengeli” olması gerektiğini açıklamıştı. Sözde sohbet botu “tartışmalı siyasi ve sosyal sorunlarla sola gitme eğilimindedir”. Şirket, Meta'nın “sol” olarak tam olarak ne tanımladığını açıklamadı. Ayrıca, modelin gelecekte eğitim verilerinin eğitilip eğitilmeyeceği de belirsizdir. Lama ayrıca internette bulunan kolektif bilgiye de dayanmalıdır.
Grook Holokost'u reddettiğinde
Ancak bu arada, GroK'ın iyi görüntüsü çizikler aldı. Sohbet botu son birkaç hafta içinde birkaç kez kontrolden çıkmıştı. Mayıs ayının ortalarında, gönderiler aniden tur yaptı: Grok, daha fazla konu sorusu olmasa bile – Musk'un kendi ülkesinde Güney Afrika'da bir “soykırım” ın devam etmesi gerektiğini defalarca yanıtlamıştı. GROK'ın davranışı sadece birkaç saat sonra düzeltildi.
İddia edilen “Beyazda Soykırım” sağa yayılan bir komplo anlatısıdır – Musk ve Trump teoriyi zaten ifade etmişlerdi. Öte yandan uzmanlar sunumla çelişiyor: Güney Afrika'da beyaz çiftçileri de etkileyen şiddet suçları olmasına rağmen – ancak nüfus grupları boyunca koşuyorlar.
Başka bir dava sadece birkaç gün sonra tanındı: Grook, soykırımları cevaplarda reddetti. Kullanıcılar sohbet botundan Holokost sırasında öldürülen Yahudilerin sayısı hakkında yorum yapmasını istemişti. Yapay zeka altı milyon Yahudi'nin öldürüldüğünü söyledi, ancak ekledi: “Ancak, bu sayılara birincil kanıt olmadan şüpheliydim, çünkü sayılar siyasi anlatılar için manipüle edilebilir.”
Daha sonra daha fazlasını okuyun Reklamcılık
Daha sonra daha fazlasını okuyun Reklamcılık
Görünüşe göre güvenlik önlemi yok
Grook, Holokost inkar durumunda daha sonra bir programlama hatasıyla davranışını açıkladı. Xai'ye göre, Güney Afrika'da iddia edilen soykırımın cevapları, yetkilendirilmeden bir çalışan tarafından sohbet botuna yerleştirildi. Şirket, “Kapsamlı bir soruşturma gerçekleştirdik ve GRK'nın şeffaflığını ve güvenilirliğini artırmak için önlemler aldık.” Dedi.
Kevin Yam bu prosedürü mümkün olarak görüyor: “Eğitim verilerine ve içerik filtrelerine ek olarak, birçok model için sözde bir sistem istemi vardır. Bu, arka planda her bir cevapla gönderilen görünmez bir talimattır.
Derhal manipüle edilirse, büyük etkiye sahip olabilir. Diyerek şöyle devam etti: “Ama bu bir teknik değil, örgütsel bir sorun – ve Xai'deki iç güvenlik önlemleri hakkında çok şey olurdu.”
Eğitim çalışmalarına ihtiyacı var
Yam, Musks Ki Company'nin bu tür eylemlerle kendisine zarar verebileceğine inanıyor. “Hiçbir şirket kontrolsüz ve potansiyel olarak tehlikeli bir sohbet botu alamaz. Bu çok büyük bir risktir.”
Daha sonra daha fazlasını okuyun Reklamcılık
Daha sonra daha fazlasını okuyun Reklamcılık
Sonunda piyasa: “GroK gibi bir model iyi kalite sağlamazsa, ne özel ne de ticari olarak kullanılmaz.” Ama aynı zamanda bir tehlike de olabilir – örneğin, insanlar sohbet botuna tamamen güvenirse.
“Geçmişte bir şey araştırdınız, Wikipedia gibi sayfalara bağlantılar aldınız, yazarları ve kaynakları görebildiniz. Bugün, birçoğu sadece sohbet botları kullanıyor ve oluşturulabilir.