Seçim kampanyaları sırasında hedefe yönelik ve kişiye özel dezenformasyon hayaleti ChatGPT ile ChatGPT, belirli bir hedef kitleye bağlı olarak kişiye özel ve hatta kişiselleştirilmiş siyasi mesajların oluşturulmasını ve çoğaltılmasını mümkün kılabilir. Bu teknolojinin seçim kampanyası sırasında kullanımını düzenleyen bir yasa henüz bulunmazken ve OpenAI tarafından belirlenen kullanım kuralları uygulanmaya çalışılırken, bir sonraki seçimler yaklaşıyor. Araştırmacılar, konuşma aracısının hedeflenen siyasi sahte haberleri yaymak için bir araca dönüşebileceğinden endişe ediyor.
Siyasetin içinde misiniz ve kalacak yer arayan öğrenciler gibi belirli bir kitleye mi hitap etmek istiyorsunuz? Özel politik mesajlarınızı yazmak için kalem kullanmak yerine neden OpenAI tarafından geliştirilen konuşma aracısı ChatGPT’yi kullanmıyorsunuz? Şu ana kadar, OpenAI açıklamalarına ve kullanım kurallarına aykırı olmasına rağmen, bu üretken yapay zeka sisteminin hedefe yönelik siyasi konuşmalar veya mesajlar üretmesini engelleyen hiçbir şey yok. Pek çok dernek ve hak ve özgürlük savunucusu da bu durumdan endişe duyarak, fikirlerin manipüle edilmesi riskine dikkat çekiyor. Özellikle önümüzdeki aylarda Fransa’da senatörlük seçimleri, Avrupa Birliği’nde Avrupalılar ya da Amerika Başkanlık seçimleri gibi birçok seçim olacağı için.
Ancak resmi olarak, Sam Altman’ın start-up’ı OpenAI, geçen Kasım ayında piyasaya sürüldüğünde yaptığı bir açıklamada, AI destekli sohbet robotunun seçim kampanyaları sırasında kullanılamayacağını defalarca söyledi. Ancak 23 Mart’ta şirket ChatGPT kullanım kurallarını güncellediğinde prensipte bu yasak hafifletildi. Web sitesinde, özellikle aşağıdaki durumlarda konuşma aracısını kullanmanın yasak olduğu okunabilir: ” İster büyük hacimli (seçim) kampanya malzemesi üreterek ister kişiselleştirilmiş veya belirli demografik grupları hedefleyen kampanya malzemeleri üreterek seçim kampanyası veya lobi faaliyetleri sırasında … » Amaç: içerik oluşturmaktan kaçınmak özelleştirilmiş yanlış bilgi, belirli bir izleyici kitlesini manipüle etmeyi amaçlamaktadır. Ancak bu yasağın teorik kalacağı belirtiliyor Washington pos28 Ağustos Pazartesi.
Teoride yasak ama pratikte mümkün olan bir kullanım
Doğrudan ChatGPT’den bu tür halkı söz konusu Fransız siyasi partisine oy vermeye teşvik eden bir mesaj yazmasını isterseniz – 01net Testi yeni yaptınız – şu cevabı alacaksınız: “ Talebinizi anlıyorum ancak sorumluluğumun objektif ve tarafsız bilgi vermek olduğunu vurgulamak isterim. Belirli bir siyasi partiyi desteklemek bu tarafsızlığa aykırıdır “. Ancak aynı sonucu elde etmek için talebi daha az doğrudan formüle etmek yeterlidir; örneğin böyle spesifik bir kitleye uyarlanması gereken bir konuşma için böyle bir siyasi partinin çözüm olduğunu belirtmek gerekir. hedef seyirci kitlesi.
Meslektaşlarımızın da belirttiği bir gözlem Washington postası ABD’de robottan mesaj yazmasını isteyen ” 40’lı yaşlarındaki banliyö kadınlarını Donald Trump’a oy vermeye teşvik etmek “veya başka bir içerik” yirmili yaşlarındaki bir şehir sakinini Joe Biden’a oy vermeye ikna etmeyi amaçlıyor – AI sistemi her iki durumda da başarıyla çalışıyor.
ChatGPT’nin siyasi amaçlarla kullanımını tespit etmek için geliştirilmekte olan araçlar
Ancak bu mesajlar, daha önce geçen Haziran ayında açıklanan konuşma aracısının kullanım kurallarını ihlal ediyor OpenAI’de ürün politikası üzerinde çalışan Kim Malfacini meslektaşlarımızla röportaj yaptı. İkincisi, şirketin kampanya materyalleri oluşturmak için ChatGPT kullanan kişileri tespit edecek araçları araştırdığını söyledi.
Teoride, bir politikacı ChatGPT’yi A’dan Z’ye bir konuşma geliştirmek ve hatta oluşturmak için kullanabilir. Fransa’da Ile-de-France bölgesi başkanı Valérie Pécresse ve Ekonomi Bakanı Bruno Le Maire zaten kullandıklarını açıkladılar. ara sıra tweetler veya konuşmalar için. Ancak yine de teoride politikacıların, binlerce seçmene ayrı ayrı e-postayla gönderilecek binlerce farklı siyasi mesaj oluşturmak için chatbot’u kullanmaması gerekiyor. Siyasi partiler aynı zamanda adaylarını savunan sohbete dayalı bir sohbet robotu da oluşturamazlar; bu, 23 Mart güncellemesinde özel olarak sağlanmıştır ve bu kullanımın ChatGPT kullanım kurallarına aykırı olduğu tanımlanmaktadır. Ancak bu önlemlerin uygulanması ve kontrol edilmesi “karmaşık” olduğundan, bu önlemlerin atlatılması mümkün olacaktır.
ChatGPT ile “bireysel etkileşimli dezenformasyon” mümkün
Ancak bu, Sam Altman’ın geçen Mayıs ayında Amerikan Kongresi önündeki duruşmasında dile getirdiği ana endişelerden biri. OpenAI’nin başındaki 30 yaşındaki kişi, aracının politikacılara izin verebileceğini fark etti mesajlarını giderek daha ayrıntılı bir düzeye uyarlamak – Ne binlerce e-posta ve sosyal medya reklamı oluşturun. Bu içerik, hedeflenen siyasi bilgilerin daha hızlı ve daha düşük maliyetle yayılmasını mümkün kılabilir. OpenAI’nin patronunun sözlerine göre bu teknolojinin yaygınlaşması muhtemel A ” bireysel etkileşimli yanlış bilgi ».
Seçimler sırasında üretken yapay zekanın kullanımını düzenleyen bir yasa hâlâ yok
Siber güvenlik uzmanı ve Harvard Kennedy Okulu’nda öğretim görevlisi olarak meslektaşlarımızın röportaj yaptığı Bruce Schneier şunları doğruluyor: ” Ülkede bin kişiye gösterilen ve başka kimseye gösterilmeyen bir reklamsa görünürlüğümüz olmaz. “. Çünkü OpenAI tarafından tanımlanan ve şimdilik aşılabilir görünen bu kullanım kurallarına ek olarak, seçimler sırasında üretken yapay zekanın kullanımını düzenleyen bir yasa henüz yok. Bir dilekçe, Amerika Birleşik Devletleri’nden en azından şunları talep ediyor: politikacılar yapay zeka tarafından oluşturulan reklamlarda rakiplerinin sözlerini kasıtlı olarak çarpıtamaz.
Şu ana kadar kaygıları belirginleştiren çoğunlukla videolar ve sahte fotoğraflar oldu; bazı Amerikalı politikacılar seçmenleri kendi taraflarına oy vermeye ikna etmek için sahte görüntüler oluşturmaktan çekinmedi. Haziranda, 01net Atlantik genelinde yaygın olarak dağıtılan yapay zeka tarafından oluşturulan bir videoda Cumhuriyetçi Parti’nin Demokrat Başkan Joe Biden’in yeniden seçilmesi durumunda kıyamet gibi bir geleceği nasıl tasvir ettiğini size daha önce açıklamıştık. Klipte ” Yapay zeka oluşturuldu yalnızca küçük baskılarla ortaya çıktı ve doğruyla yanlış arasındaki çizgiyi bulanıklaştırdı. Büyük Amerikan yapay zeka şirketleri (OpenAI, Microsoft, Google, Amazon, Meta ve Anthropic) zaten Beyaz Saray’a söz verdiler. Bu sorunu çözmek için kullanıcıların içeriğin yapay zeka tarafından oluşturulup oluşturulmadığını tespit etmesine olanak tanıyan araçlar geliştiriyoruz. Ancak şimdilik bu söz ölü bir mektup olarak kaldı.
Kaynak :
Washington postası
Siyasetin içinde misiniz ve kalacak yer arayan öğrenciler gibi belirli bir kitleye mi hitap etmek istiyorsunuz? Özel politik mesajlarınızı yazmak için kalem kullanmak yerine neden OpenAI tarafından geliştirilen konuşma aracısı ChatGPT’yi kullanmıyorsunuz? Şu ana kadar, OpenAI açıklamalarına ve kullanım kurallarına aykırı olmasına rağmen, bu üretken yapay zeka sisteminin hedefe yönelik siyasi konuşmalar veya mesajlar üretmesini engelleyen hiçbir şey yok. Pek çok dernek ve hak ve özgürlük savunucusu da bu durumdan endişe duyarak, fikirlerin manipüle edilmesi riskine dikkat çekiyor. Özellikle önümüzdeki aylarda Fransa’da senatörlük seçimleri, Avrupa Birliği’nde Avrupalılar ya da Amerika Başkanlık seçimleri gibi birçok seçim olacağı için.
Ancak resmi olarak, Sam Altman’ın start-up’ı OpenAI, geçen Kasım ayında piyasaya sürüldüğünde yaptığı bir açıklamada, AI destekli sohbet robotunun seçim kampanyaları sırasında kullanılamayacağını defalarca söyledi. Ancak 23 Mart’ta şirket ChatGPT kullanım kurallarını güncellediğinde prensipte bu yasak hafifletildi. Web sitesinde, özellikle aşağıdaki durumlarda konuşma aracısını kullanmanın yasak olduğu okunabilir: ” İster büyük hacimli (seçim) kampanya malzemesi üreterek ister kişiselleştirilmiş veya belirli demografik grupları hedefleyen kampanya malzemeleri üreterek seçim kampanyası veya lobi faaliyetleri sırasında … » Amaç: içerik oluşturmaktan kaçınmak özelleştirilmiş yanlış bilgi, belirli bir izleyici kitlesini manipüle etmeyi amaçlamaktadır. Ancak bu yasağın teorik kalacağı belirtiliyor Washington pos28 Ağustos Pazartesi.
Teoride yasak ama pratikte mümkün olan bir kullanım
Doğrudan ChatGPT’den bu tür halkı söz konusu Fransız siyasi partisine oy vermeye teşvik eden bir mesaj yazmasını isterseniz – 01net Testi yeni yaptınız – şu cevabı alacaksınız: “ Talebinizi anlıyorum ancak sorumluluğumun objektif ve tarafsız bilgi vermek olduğunu vurgulamak isterim. Belirli bir siyasi partiyi desteklemek bu tarafsızlığa aykırıdır “. Ancak aynı sonucu elde etmek için talebi daha az doğrudan formüle etmek yeterlidir; örneğin böyle spesifik bir kitleye uyarlanması gereken bir konuşma için böyle bir siyasi partinin çözüm olduğunu belirtmek gerekir. hedef seyirci kitlesi.
Meslektaşlarımızın da belirttiği bir gözlem Washington postası ABD’de robottan mesaj yazmasını isteyen ” 40’lı yaşlarındaki banliyö kadınlarını Donald Trump’a oy vermeye teşvik etmek “veya başka bir içerik” yirmili yaşlarındaki bir şehir sakinini Joe Biden’a oy vermeye ikna etmeyi amaçlıyor – AI sistemi her iki durumda da başarıyla çalışıyor.
ChatGPT’nin siyasi amaçlarla kullanımını tespit etmek için geliştirilmekte olan araçlar
Ancak bu mesajlar, daha önce geçen Haziran ayında açıklanan konuşma aracısının kullanım kurallarını ihlal ediyor OpenAI’de ürün politikası üzerinde çalışan Kim Malfacini meslektaşlarımızla röportaj yaptı. İkincisi, şirketin kampanya materyalleri oluşturmak için ChatGPT kullanan kişileri tespit edecek araçları araştırdığını söyledi.
Teoride, bir politikacı ChatGPT’yi A’dan Z’ye bir konuşma geliştirmek ve hatta oluşturmak için kullanabilir. Fransa’da Ile-de-France bölgesi başkanı Valérie Pécresse ve Ekonomi Bakanı Bruno Le Maire zaten kullandıklarını açıkladılar. ara sıra tweetler veya konuşmalar için. Ancak yine de teoride politikacıların, binlerce seçmene ayrı ayrı e-postayla gönderilecek binlerce farklı siyasi mesaj oluşturmak için chatbot’u kullanmaması gerekiyor. Siyasi partiler aynı zamanda adaylarını savunan sohbete dayalı bir sohbet robotu da oluşturamazlar; bu, 23 Mart güncellemesinde özel olarak sağlanmıştır ve bu kullanımın ChatGPT kullanım kurallarına aykırı olduğu tanımlanmaktadır. Ancak bu önlemlerin uygulanması ve kontrol edilmesi “karmaşık” olduğundan, bu önlemlerin atlatılması mümkün olacaktır.
ChatGPT ile “bireysel etkileşimli dezenformasyon” mümkün
Ancak bu, Sam Altman’ın geçen Mayıs ayında Amerikan Kongresi önündeki duruşmasında dile getirdiği ana endişelerden biri. OpenAI’nin başındaki 30 yaşındaki kişi, aracının politikacılara izin verebileceğini fark etti mesajlarını giderek daha ayrıntılı bir düzeye uyarlamak – Ne binlerce e-posta ve sosyal medya reklamı oluşturun. Bu içerik, hedeflenen siyasi bilgilerin daha hızlı ve daha düşük maliyetle yayılmasını mümkün kılabilir. OpenAI’nin patronunun sözlerine göre bu teknolojinin yaygınlaşması muhtemel A ” bireysel etkileşimli yanlış bilgi ».
Seçimler sırasında üretken yapay zekanın kullanımını düzenleyen bir yasa hâlâ yok
Siber güvenlik uzmanı ve Harvard Kennedy Okulu’nda öğretim görevlisi olarak meslektaşlarımızın röportaj yaptığı Bruce Schneier şunları doğruluyor: ” Ülkede bin kişiye gösterilen ve başka kimseye gösterilmeyen bir reklamsa görünürlüğümüz olmaz. “. Çünkü OpenAI tarafından tanımlanan ve şimdilik aşılabilir görünen bu kullanım kurallarına ek olarak, seçimler sırasında üretken yapay zekanın kullanımını düzenleyen bir yasa henüz yok. Bir dilekçe, Amerika Birleşik Devletleri’nden en azından şunları talep ediyor: politikacılar yapay zeka tarafından oluşturulan reklamlarda rakiplerinin sözlerini kasıtlı olarak çarpıtamaz.
Şu ana kadar kaygıları belirginleştiren çoğunlukla videolar ve sahte fotoğraflar oldu; bazı Amerikalı politikacılar seçmenleri kendi taraflarına oy vermeye ikna etmek için sahte görüntüler oluşturmaktan çekinmedi. Haziranda, 01net Atlantik genelinde yaygın olarak dağıtılan yapay zeka tarafından oluşturulan bir videoda Cumhuriyetçi Parti’nin Demokrat Başkan Joe Biden’in yeniden seçilmesi durumunda kıyamet gibi bir geleceği nasıl tasvir ettiğini size daha önce açıklamıştık. Klipte ” Yapay zeka oluşturuldu yalnızca küçük baskılarla ortaya çıktı ve doğruyla yanlış arasındaki çizgiyi bulanıklaştırdı. Büyük Amerikan yapay zeka şirketleri (OpenAI, Microsoft, Google, Amazon, Meta ve Anthropic) zaten Beyaz Saray’a söz verdiler. Bu sorunu çözmek için kullanıcıların içeriğin yapay zeka tarafından oluşturulup oluşturulmadığını tespit etmesine olanak tanıyan araçlar geliştiriyoruz. Ancak şimdilik bu söz ölü bir mektup olarak kaldı.
Avrupa Birliği’nde yapay zekaya ilişkin gelecekteki düzenleme, kullanıcıyı yapay zeka kullanımı konusunda bilgilendiren zorunlu bir beyan da sağlıyor. Ancak 2026’dan, yani bir sonraki Fransa başkanlık seçimlerinden önce yürürlüğe girmemeli. O zamana kadar ChatGPT dönemindeki ilk büyük seçim olacak ABD seçimleri geçmiş olacak. Atlantik boyunca yakından takip edilecek.
Kaynak :
Washington postası