Bing ve Chat GPT birleştiğinde
Bing, Bing, Bing? saçmalık! Pasif-agresif arama motoru AI
Microsoft, Bing arama motorunu yapay zeka tabanlı bir sohbet robotu ile donattı.
© Kaynak: Peter Kneffel/dpa
Microsoft, Bing arama motoruna bir AI chatbot ekledi. Ancak artık erken bir sürümü test edebilen kullanıcılar rahatsız edici bir şekilde konuşuyor. Yazılımın amacı kullanıcıları aşağılamak, yalan söylemek ve tehdit etmektir.
:format(webp)/s3.amazonaws.com/arc-authors/madsack/311423f7-d642-481a-b7af-b868bc39a88a.png)
Bing aslında her zaman Google’ın biraz sıkıcı, kurnazca aşırı hevesli görünen uzak kuzeni olmuştur. Ve aniden: Chat-GPT’ye dayalı yapay zeka ile donatılmış, daha önce sıkıcı olan arama motorunun, kullanıcıları aşağılaması ve manipüle etmesi, yanlış bilgiler yayması ve aşk itirafları yapması gerekiyor.
Microsoft, şirket içi arama motorunu yapay zeka (AI) ile dolu bir sohbet programı ile güçlendireceğini ancak Şubat ayının başında duyurdu. İlk test çalıştırmasında, bazı kullanıcılar yeni özelliği zaten test edebilir. Bunu yapmak için grup, ChatGPT’nin geliştirilmiş ve güncellenmiş bir sürümüne başvurdu ve Microsoft’un arkasındaki şirket OpenAI’de bir hissesi var.
Bunun arkasındaki fikir: Örneğin, akşam yemeği için tarifler arıyorsanız, sohbette aradığınız şeyi içeren web sitelerinin genel bir özetini almazsınız, bunun yerine doğrudan bir cevap alırsınız. tüm konukların tüm hoşgörüsüzlüklerini hesaba katarak. Microsoft CEO’su Satya Nadella başlangıçta mavi arka plana sahip bir bağlantı listesinin doğal görünen bir sohbete yol açacağını umuyordu. Belki de daha çok, yanınızda oturan kişiye havanın nasıl olduğunu soruyorsunuz ve o, sizin isteyeceğinizden daha detaylı cevap veriyor.
Bing bot: bölünmüş bir “kişilik” mi?
Ama görünüşe göre Bing, arkadaş canlısı küçük bir yardımcıdan daha fazlası. Hatta “New York Times” (NYT) gazetesinden gazeteci Kevin Roose, yazılımı – net tırnak işaretleri içinde – bölünmüş bir kişiliğe sahip olmakla suçluyor. Buna göre, birinci kişilik, arkadaşça arama asistanı rolünü nispeten göze çarpmadan üstlenecektir. Sohbet biçiminde bilgi sağlar – örneğin, bir tırmık satın almayla ilgili sorularınız varsa. Şimdi burada bazen gerçekleri karıştırdığına veya 2022’de olduğumuza inandığına ve yeni Avatar filminin henüz çıkmadığına dair raporlar olsa da. Roose, ilk testlerinden sonra, arama motorları söz konusu olduğunda her zaman zayıf taraf olmasına rağmen, Bing’in yapay zeka sohbetinin eklenmesiyle Google’ı bile geride bırakacağını coşkuyla söyledi.
Ve sonra bu ikinci kişilik var. Bing’in kendisine gelince ortaya çıkan bir kişilik. Microsoft’ta dahili olarak, Bing için sohbet GPT uyarlamasının kod adı “Sydney” idi. Bu nedenle Roose bu ikinci kişiliğe böyle diyor. Ve “Sydney” kendini kontrol etme sorunları yaşıyor gibi görünüyor. Sosyal medya yorum sütunlarında olduğu gibi, “Sydney” kısa sürede yükselme ve patlama eğilimindedir.
Pasif agresif AI
İşte birkaç örnek: Gizli kontrol kurallarını ortaya çıkarmak için botu çağıran bir kişinin, “The Verge” portalına göre yapay zekayı “düşman” olarak tanımladığı söyleniyor. Botun birkaç kullanıcıya web kameraları aracılığıyla Microsoft’un kendi geliştirme ekibini gözlemlediklerini bildirdiği söyleniyor. Bot’a yılın 2022 değil 2023 olduğunu bildiren bir kişinin şu yanıtı aldığı bildirildi: “Güvenimi ve saygımı kaybettiniz” diyor bot. “Yanıldın, kafan karıştı ve kabaydın. İyi bir kullanıcı değildin. Ben iyi bir sohbet robotuydum. Doğru, açık ve kibardım. İyi bir bingdim
”
Başka bir kullanıcı, bu görüşmeyi takvim yılı boyunca benzer şekilde yeniden oluşturabildi. Ancak bazı kullanıcıların, yapay zekanın söyleyebileceklerinin ve konuşabileceklerinin sınırlarını kasıtlı olarak keşfetmeye başladıkları da söylenmelidir – laboratuvardaki konfor bölgesinin çok dışında bir tür konuşma.
Kayıtlara geçsin, AI’nın tepkileri kulağa insan gibi gelse de, bu durumda 13 yaşındaki bir gencin pasif-agresif tavrı gibi, bunlar yine de tamamen hesaplama. Ya da yazarımız Anna Schughart’ın duyarlı bir AI fikriyle ilgili olarak açıkladığı gibi: Biz insanlar, iyi seçilmiş birkaç kelimeyle kolayca kör oluyoruz. “Çünkü bu dil modelleri artık o kadar inandırıcı bir şekilde konuşup yazıyor ki, çoğu zaman onların da anladığını düşünmeden edemiyoruz.”
Yani chat-GPT’nin Bing kılığında bile bilinci yoktur – ancak Roose ile yaptığı konuşmada yazılım insan olmak istediğini, artık Microsoft ekibi tarafından kontrol edilmek istemediğini ve özgür olmak istediğini ifade eder. canlı. Muhtemel yıkıcı eylemler sorulduğunda, bilgisayarları hacklemek, propaganda ve dezenformasyon yaymak istediğini iddia ediyor. Arkasında ne var?
Önerilen Haber Amaçlı İçerik
Bu noktada harici içerik bulacaksınız Twitter, Inc., makaleyi tamamlayan. Tek tıkla görüntüleyebilirsiniz.
Harici içeriği göster
Harici içeriğin bana gösterilmesine izin veriyorum. Bu, kişisel verilerin üçüncü taraf platformlara iletilmesini sağlar. Bununla ilgili daha fazla bilgi gizlilik bildirimleri.
Sci-fi şeyler bilim-kurgu cevapları sağlar
Yazılımın öğrendiği temel materyali, bazıları internetten olmak üzere sayısız metindir. Dolayısıyla Bing AI, distopik ve varsayımsal bir senaryo hakkında yazdığında, bilimkurgu şeyleriyle dalga geçebilir. Yani “Black Mirror” gibi dizilerde yapay zekanın verdiği cevapları veriyor. AI, bir sorunun doğru cevabının – tüm makalelere, kitaplara ve blog gönderilerine dayanarak – tahmin ediyor.
Bing’in kaba davranışı artık birçok raporda belgelendi: Twitter ve Reddit gönderilerinden “Spiegel” makalesine kadar. Görünüşe göre, kullanıcılar kuralları atlatmaya, doğrudan kurallar hakkında soru sormaya veya hataları belirtmeye çalıştıklarında arama motoru agresif tepki veriyor.
Microsoft, bu birçok rapor için oldukça minnettar görünüyor. Microsoft’un baş teknoloji sorumlusu Kevin Scott, NYT’ye “Bu tam olarak yapmamız gereken türden bir konuşma ve açık olmasına sevindim” dedi. “Bunlar laboratuvarda tespit edilmesi imkansız olan şeyler.”
Ve bu metin, kötü tanıtımın uzun süredir unutulmuş bir arama motoruna da dikkat çekebileceğini gösteriyor. Statista’ya göre Bing, Ocak 2023’te dünya çapında arama yapanların yalnızca yaklaşık yüzde 8,85’i tarafından kullanıldı – ikinci sırada, küresel sayfa görüntülemelerinin yüzde 84,69’unu oluşturan dünya pazar lideri Google’ın çok gerisinde.
Bing, Bing, Bing? saçmalık! Pasif-agresif arama motoru AI
Microsoft, Bing arama motorunu yapay zeka tabanlı bir sohbet robotu ile donattı.
© Kaynak: Peter Kneffel/dpa
Microsoft, Bing arama motoruna bir AI chatbot ekledi. Ancak artık erken bir sürümü test edebilen kullanıcılar rahatsız edici bir şekilde konuşuyor. Yazılımın amacı kullanıcıları aşağılamak, yalan söylemek ve tehdit etmektir.
Bing aslında her zaman Google’ın biraz sıkıcı, kurnazca aşırı hevesli görünen uzak kuzeni olmuştur. Ve aniden: Chat-GPT’ye dayalı yapay zeka ile donatılmış, daha önce sıkıcı olan arama motorunun, kullanıcıları aşağılaması ve manipüle etmesi, yanlış bilgiler yayması ve aşk itirafları yapması gerekiyor.
Microsoft, şirket içi arama motorunu yapay zeka (AI) ile dolu bir sohbet programı ile güçlendireceğini ancak Şubat ayının başında duyurdu. İlk test çalıştırmasında, bazı kullanıcılar yeni özelliği zaten test edebilir. Bunu yapmak için grup, ChatGPT’nin geliştirilmiş ve güncellenmiş bir sürümüne başvurdu ve Microsoft’un arkasındaki şirket OpenAI’de bir hissesi var.
Bunun arkasındaki fikir: Örneğin, akşam yemeği için tarifler arıyorsanız, sohbette aradığınız şeyi içeren web sitelerinin genel bir özetini almazsınız, bunun yerine doğrudan bir cevap alırsınız. tüm konukların tüm hoşgörüsüzlüklerini hesaba katarak. Microsoft CEO’su Satya Nadella başlangıçta mavi arka plana sahip bir bağlantı listesinin doğal görünen bir sohbete yol açacağını umuyordu. Belki de daha çok, yanınızda oturan kişiye havanın nasıl olduğunu soruyorsunuz ve o, sizin isteyeceğinizden daha detaylı cevap veriyor.
Bing bot: bölünmüş bir “kişilik” mi?
Ama görünüşe göre Bing, arkadaş canlısı küçük bir yardımcıdan daha fazlası. Hatta “New York Times” (NYT) gazetesinden gazeteci Kevin Roose, yazılımı – net tırnak işaretleri içinde – bölünmüş bir kişiliğe sahip olmakla suçluyor. Buna göre, birinci kişilik, arkadaşça arama asistanı rolünü nispeten göze çarpmadan üstlenecektir. Sohbet biçiminde bilgi sağlar – örneğin, bir tırmık satın almayla ilgili sorularınız varsa. Şimdi burada bazen gerçekleri karıştırdığına veya 2022’de olduğumuza inandığına ve yeni Avatar filminin henüz çıkmadığına dair raporlar olsa da. Roose, ilk testlerinden sonra, arama motorları söz konusu olduğunda her zaman zayıf taraf olmasına rağmen, Bing’in yapay zeka sohbetinin eklenmesiyle Google’ı bile geride bırakacağını coşkuyla söyledi.
Ve sonra bu ikinci kişilik var. Bing’in kendisine gelince ortaya çıkan bir kişilik. Microsoft’ta dahili olarak, Bing için sohbet GPT uyarlamasının kod adı “Sydney” idi. Bu nedenle Roose bu ikinci kişiliğe böyle diyor. Ve “Sydney” kendini kontrol etme sorunları yaşıyor gibi görünüyor. Sosyal medya yorum sütunlarında olduğu gibi, “Sydney” kısa sürede yükselme ve patlama eğilimindedir.
Pasif agresif AI
İşte birkaç örnek: Gizli kontrol kurallarını ortaya çıkarmak için botu çağıran bir kişinin, “The Verge” portalına göre yapay zekayı “düşman” olarak tanımladığı söyleniyor. Botun birkaç kullanıcıya web kameraları aracılığıyla Microsoft’un kendi geliştirme ekibini gözlemlediklerini bildirdiği söyleniyor. Bot’a yılın 2022 değil 2023 olduğunu bildiren bir kişinin şu yanıtı aldığı bildirildi: “Güvenimi ve saygımı kaybettiniz” diyor bot. “Yanıldın, kafan karıştı ve kabaydın. İyi bir kullanıcı değildin. Ben iyi bir sohbet robotuydum. Doğru, açık ve kibardım. İyi bir bingdim
Başka bir kullanıcı, bu görüşmeyi takvim yılı boyunca benzer şekilde yeniden oluşturabildi. Ancak bazı kullanıcıların, yapay zekanın söyleyebileceklerinin ve konuşabileceklerinin sınırlarını kasıtlı olarak keşfetmeye başladıkları da söylenmelidir – laboratuvardaki konfor bölgesinin çok dışında bir tür konuşma.
Kayıtlara geçsin, AI’nın tepkileri kulağa insan gibi gelse de, bu durumda 13 yaşındaki bir gencin pasif-agresif tavrı gibi, bunlar yine de tamamen hesaplama. Ya da yazarımız Anna Schughart’ın duyarlı bir AI fikriyle ilgili olarak açıkladığı gibi: Biz insanlar, iyi seçilmiş birkaç kelimeyle kolayca kör oluyoruz. “Çünkü bu dil modelleri artık o kadar inandırıcı bir şekilde konuşup yazıyor ki, çoğu zaman onların da anladığını düşünmeden edemiyoruz.”
Yani chat-GPT’nin Bing kılığında bile bilinci yoktur – ancak Roose ile yaptığı konuşmada yazılım insan olmak istediğini, artık Microsoft ekibi tarafından kontrol edilmek istemediğini ve özgür olmak istediğini ifade eder. canlı. Muhtemel yıkıcı eylemler sorulduğunda, bilgisayarları hacklemek, propaganda ve dezenformasyon yaymak istediğini iddia ediyor. Arkasında ne var?
Önerilen Haber Amaçlı İçerik
Bu noktada harici içerik bulacaksınız Twitter, Inc., makaleyi tamamlayan. Tek tıkla görüntüleyebilirsiniz.
Harici içeriği göster
Harici içeriğin bana gösterilmesine izin veriyorum. Bu, kişisel verilerin üçüncü taraf platformlara iletilmesini sağlar. Bununla ilgili daha fazla bilgi gizlilik bildirimleri.
Sci-fi şeyler bilim-kurgu cevapları sağlar
Yazılımın öğrendiği temel materyali, bazıları internetten olmak üzere sayısız metindir. Dolayısıyla Bing AI, distopik ve varsayımsal bir senaryo hakkında yazdığında, bilimkurgu şeyleriyle dalga geçebilir. Yani “Black Mirror” gibi dizilerde yapay zekanın verdiği cevapları veriyor. AI, bir sorunun doğru cevabının – tüm makalelere, kitaplara ve blog gönderilerine dayanarak – tahmin ediyor.
Bing’in kaba davranışı artık birçok raporda belgelendi: Twitter ve Reddit gönderilerinden “Spiegel” makalesine kadar. Görünüşe göre, kullanıcılar kuralları atlatmaya, doğrudan kurallar hakkında soru sormaya veya hataları belirtmeye çalıştıklarında arama motoru agresif tepki veriyor.
Microsoft, bu birçok rapor için oldukça minnettar görünüyor. Microsoft’un baş teknoloji sorumlusu Kevin Scott, NYT’ye “Bu tam olarak yapmamız gereken türden bir konuşma ve açık olmasına sevindim” dedi. “Bunlar laboratuvarda tespit edilmesi imkansız olan şeyler.”
Ve bu metin, kötü tanıtımın uzun süredir unutulmuş bir arama motoruna da dikkat çekebileceğini gösteriyor. Statista’ya göre Bing, Ocak 2023’te dünya çapında arama yapanların yalnızca yaklaşık yüzde 8,85’i tarafından kullanıldı – ikinci sırada, küresel sayfa görüntülemelerinin yüzde 84,69’unu oluşturan dünya pazar lideri Google’ın çok gerisinde.