Bir yapay zeka mı yazdı, yoksa bir insan mı?
Chatbot ile sadece internette konuşamazsınız. Yapay zekanın (AI) yardımıyla, komut üzerine makaleler, şiirler, mektuplar ve diğer her türden metinler yazar ve becerileriyle ilham verir.
© Kaynak: Karl-Josef Hildenbrand/dpa
Dikkat, karışıklık riski: ChatGPT gibi metin oluşturucular insan konuşmasını ne kadar iyi taklit ederse, kötüye kullanım potansiyeli o kadar artar. Peki AI metinlerini nasıl tanıyabilirsiniz?
:format(webp)/s3.amazonaws.com/arc-authors/madsack/b58f21a2-89fc-4edd-9b00-bb949b60877c.png)
Dijital dünyamızda, metinler giderek artan bir şekilde yapay zeka (AI) tarafından yazılmaktadır. Haber makaleleri, sosyal medya gönderileri ve hatta romantizm olsun, AI sistemleri insan benzeri metinler üretebilir. Ancak, bu metinleri bazen gerçek insan yazısından ayırt etmek zor olabilir, bu da halk ve medya endüstrisi için bir meydan okuma haline gelebilir.
Halkın yanlış veya yanıltıcı bilgilerden etkilenmemesini sağlamak için AI tarafından hangi metinlerin yazıldığını bilmek önemlidir. Bu makalede, AI tarafından yazılan metinleri tanımanın zorluğuna daha yakından bakacağız ve benzersiz tanımlamayı garanti etmek için hangi faktörlerin dikkate alınması gerektiğini tartışacağız.
:format(webp)/cloudfront-eu-central-1.images.arcpublishing.com/madsack/DMGOZCVWFNFMJBUMXEZCJBR5CM.jpg)
hayat ve biz
Sağlık, esenlik ve tüm aile için rehber – her ikinci Perşembe.
Bu oldukça uygun bir şekilde ifade edildi ve sorunun özüne iniyor. Aptalca olan şey şu: Buradaki makaleye götüren metin -belki biraz sıkıcı ama yine de içerik açısından doğru- sorunun bir parçası. Bir AI tarafından yazılmıştır. Fark ettin mi?
OpenAI şirketi, ChatGPT metin oluşturucuyu herkese açık ve ücretsiz yaptığından, chatbot’un yanıtları, metinleri ve çalışmaları her yerde bulunabilir. İstismar potansiyeli yüksektir. Diğerlerinin yanı sıra üniversiteler, medya kuruluşları ve okullar birdenbire insan ve makine performansı arasında her zamankinden daha fazla ayrım yapma zorluğuyla karşı karşıya kalıyor. Ancak bir yapay zeka tarafından yazılmış bir metni nasıl tanırsınız?
:format(webp)/cloudfront-eu-central-1.images.arcpublishing.com/madsack/XT4MBORBQ5CNDPNQP5HUJY3UEA.png)
Bilinci olan bir yapay zeka mı? Bu neden bizim en küçük yapay zeka sorunumuz?
Haber tüm dünyayı dolaştı: Bir Google geliştiricisi, yapay zekasının bilinçli bir kişilik olduğuna inanıyor. Bu, çok sayıda araştırmacının bir süredir uyardığı şeydir. AI ile ilgili bir sorunumuz var – ama bunun bilim kurgu ile çok az ilgisi var.
Mantık ve yazım hataları
ChatGPT veya diğer karşılaştırılabilir metin oluşturucular gibi bir AI, ne yazdıklarını anlamaz. Sadece bir kelimenin diğerini takip etme olasılığını hesaplarlar. Yapay zeka tarafından oluşturulan bir metnin, örneğin bir insanın asla yapmayacağı açık mantık hataları içine sızmış olması durumunda tanınması şu anda daha kolaydır. Bu yüzden insanlar genellikle kızılcık suyuyla üzüm suyunu karıştırmanın ölümcül olmadığını bilirler.
Araştırma projesine göre “Gerçek mi Sahte Metin mi?” örneğin: genel ve sıkıcı bir dil, ardışık cümlelerdeki veya tekrarlardaki çelişkiler. “Yakından bakarsanız, ChatGPT gibi sohbet robotlarının metinlerinin tamamen metin setlerinin bir kopyası olduğunu görebilirsiniz. Münster Uygulamalı Bilimler Üniversitesi’nde Yazılım Mühendisliği ve İnsan-Bilgisayar Etkileşimi Profesörü Gernot Bauer, kısa süre önce Haberler’ye, klişeler ve genellemelerle dolu ve insan metinlerini karakterize eden pürüzlü kenarları yok” dedi.
Google Brain’den Daphne Ippolito, “Technology Review” dergisine bunun tersine, örneğin bir metindeki yazım hatalarının insan kökenini gösterme eğiliminde olduğunu açıklıyor. Çünkü dil robotları “çok çok nadiren yazım hatası yapar. Mükemmel kopya oluşturmada çok daha iyiler.”
İnsanlar ayırt etmede iyi değil
Chatbot’u tanıyor musunuz?
“Gerçek veya Sahte Metin” sayfasında, bir AI tarafından İngilizce bir metnin hangi noktadan devam ettiğini tahmin etmeniz gerekir. Ancak, kullanılan örnekler GPT-2’den, yani o kadar iyi olmayan bir önceki modelden alınmıştır. GPT-3 ve ChatGPT, insan konuşmasını taklit etmede önemli ölçüde daha iyidir.
Ancak araştırmalar, insanların genellikle makine tarafından oluşturulan metinleri bu şekilde tanımlamada pek iyi olmadığını gösteriyor. GPT-3 metnini tanımakla görevli eğitimsiz insanlar üzerinde yapılan ilgili bir çalışmada, sonuç az çok rastlantısaldı. Biraz eğitimle, insanların doğruluğu yüzde 55 ile yalnızca biraz daha iyiydi.
AI, AI’yı tanır
Ancak çok fazla pratik yapılmasına rağmen, teknik yardıma sahip olmayan kişilerin yapay zeka metin oluşturucuların çalışmalarını tanıması pek olası değildir. Son olarak, dil modelleri de insan konuşmasını taklit etmede giderek daha iyi hale geliyor. Bu nedenle teknik bir yaklaşım, bir yapay zekanın çalışmasının, üzerinde eğitilmiş bir yapay zeka tarafından ifşa edilmesidir.
OpenAI’ninki gibi ChatGPT gibi bazı tanıma araçlarına zaten İnternet üzerinden ücretsiz olarak erişilebilir: “AI Metin Sınıflandırıcı”, bir insan veya bir AI tarafından yazılan metinleri ayırt edebilmelidir. Ancak OpenAI, şimdiye kadar gerçekten güvenilir bir şekilde çalışmadığını doğrudan kabul ediyor. Şirketin kendisi tarafından yapılan bir değerlendirmede, “AI Text Classifier”, AI tarafından yazılmış metinlerin yalnızca yüzde 26’sını bu şekilde tanımladı. Aracın özellikle kısa metinlerle ilgili büyük sorunları var; Bu nedenle, bir metnin kontrol edilmesi için bir ön koşul, en az bin karakterlik bir uzunluktur. İngilizce dışındaki diller için “AI Metin Sınıflandırıcı” da “önemli ölçüde daha kötüdür”.
:format(webp)/cloudfront-eu-central-1.images.arcpublishing.com/madsack/F3PW3BI3PNDMRPVK7ORDI766X4.jpg)
Neden tek başına güçlü bir parola bile koruma sağlamaz?
Kedinin adı şifre mi? Ve her hesap için? Tembel parola seçimleri, siber suçluların işini kolaylaştırır. Ancak uzun ve karmaşık parolaları da bulabilirler ve bu nedenle çok fazla hasara neden olabilirler. Çevrimiçi hesaplarınızı gerçekten nasıl koruyabilirsiniz?
AI tespiti için teknik araçlar
Edward Tian, ”İnsanlar gerçeği hak ediyor” diyor. Bu yüzden programladığı GPTZero uygulamasının sayfasındaki ilk mesaj bu. “Bir makalenin ChatGPT tarafından mı yoksa bir insan tarafından mı yazıldığını hızlı ve verimli bir şekilde tanımalı”, öğrenciyi anlattı. Basitçe ifade etmek gerekirse, uygulama iki gösterge kullanır: bir metnin ne kadar karmaşık olduğu ve cümle uzunluğunun ne kadar değişken olduğu.
Writer’ın AI İçerik Dedektörüne de ücretsiz olarak erişilebilir. Testte, her iki araç da bu metnin başındaki iki Almanca paragrafı bir yapay zeka tarafından oluşturulmuş olarak tanıyabildi. “Oberhessische Presse” (+) tarafından bildirildiği üzere Almanya’da da Latoda gibi şirketler “AI dedektifleri” üzerinde çalışıyor.
Filigran ve etiketleme gereksinimi
Tanıma araçları, aynı anda gelişen AI metin oluşturucularla sürekli rekabet halindedir. Ne de olsa amaçları, insanlarınkinden neredeyse ayırt edilemeyecek bir dil yaratmaktır. Bu nedenle uzmanlar, yalnızca uygun araçlar geliştirmenin değil, aynı zamanda örneğin zorunlu etiketleme yoluyla genel olarak daha fazla şeffaflık yaratmanın da zorunlu olduğunu düşünüyor. Örneğin, OpenAI zaten AI metinleri için bir tür filigran üzerinde çalışıyor.
Chatbot ile sadece internette konuşamazsınız. Yapay zekanın (AI) yardımıyla, komut üzerine makaleler, şiirler, mektuplar ve diğer her türden metinler yazar ve becerileriyle ilham verir.
© Kaynak: Karl-Josef Hildenbrand/dpa
Dikkat, karışıklık riski: ChatGPT gibi metin oluşturucular insan konuşmasını ne kadar iyi taklit ederse, kötüye kullanım potansiyeli o kadar artar. Peki AI metinlerini nasıl tanıyabilirsiniz?
Dijital dünyamızda, metinler giderek artan bir şekilde yapay zeka (AI) tarafından yazılmaktadır. Haber makaleleri, sosyal medya gönderileri ve hatta romantizm olsun, AI sistemleri insan benzeri metinler üretebilir. Ancak, bu metinleri bazen gerçek insan yazısından ayırt etmek zor olabilir, bu da halk ve medya endüstrisi için bir meydan okuma haline gelebilir.
Halkın yanlış veya yanıltıcı bilgilerden etkilenmemesini sağlamak için AI tarafından hangi metinlerin yazıldığını bilmek önemlidir. Bu makalede, AI tarafından yazılan metinleri tanımanın zorluğuna daha yakından bakacağız ve benzersiz tanımlamayı garanti etmek için hangi faktörlerin dikkate alınması gerektiğini tartışacağız.
hayat ve biz
Sağlık, esenlik ve tüm aile için rehber – her ikinci Perşembe.
Bu oldukça uygun bir şekilde ifade edildi ve sorunun özüne iniyor. Aptalca olan şey şu: Buradaki makaleye götüren metin -belki biraz sıkıcı ama yine de içerik açısından doğru- sorunun bir parçası. Bir AI tarafından yazılmıştır. Fark ettin mi?
OpenAI şirketi, ChatGPT metin oluşturucuyu herkese açık ve ücretsiz yaptığından, chatbot’un yanıtları, metinleri ve çalışmaları her yerde bulunabilir. İstismar potansiyeli yüksektir. Diğerlerinin yanı sıra üniversiteler, medya kuruluşları ve okullar birdenbire insan ve makine performansı arasında her zamankinden daha fazla ayrım yapma zorluğuyla karşı karşıya kalıyor. Ancak bir yapay zeka tarafından yazılmış bir metni nasıl tanırsınız?
Bilinci olan bir yapay zeka mı? Bu neden bizim en küçük yapay zeka sorunumuz?
Haber tüm dünyayı dolaştı: Bir Google geliştiricisi, yapay zekasının bilinçli bir kişilik olduğuna inanıyor. Bu, çok sayıda araştırmacının bir süredir uyardığı şeydir. AI ile ilgili bir sorunumuz var – ama bunun bilim kurgu ile çok az ilgisi var.
Mantık ve yazım hataları
ChatGPT veya diğer karşılaştırılabilir metin oluşturucular gibi bir AI, ne yazdıklarını anlamaz. Sadece bir kelimenin diğerini takip etme olasılığını hesaplarlar. Yapay zeka tarafından oluşturulan bir metnin, örneğin bir insanın asla yapmayacağı açık mantık hataları içine sızmış olması durumunda tanınması şu anda daha kolaydır. Bu yüzden insanlar genellikle kızılcık suyuyla üzüm suyunu karıştırmanın ölümcül olmadığını bilirler.
Araştırma projesine göre “Gerçek mi Sahte Metin mi?” örneğin: genel ve sıkıcı bir dil, ardışık cümlelerdeki veya tekrarlardaki çelişkiler. “Yakından bakarsanız, ChatGPT gibi sohbet robotlarının metinlerinin tamamen metin setlerinin bir kopyası olduğunu görebilirsiniz. Münster Uygulamalı Bilimler Üniversitesi’nde Yazılım Mühendisliği ve İnsan-Bilgisayar Etkileşimi Profesörü Gernot Bauer, kısa süre önce Haberler’ye, klişeler ve genellemelerle dolu ve insan metinlerini karakterize eden pürüzlü kenarları yok” dedi.
Google Brain’den Daphne Ippolito, “Technology Review” dergisine bunun tersine, örneğin bir metindeki yazım hatalarının insan kökenini gösterme eğiliminde olduğunu açıklıyor. Çünkü dil robotları “çok çok nadiren yazım hatası yapar. Mükemmel kopya oluşturmada çok daha iyiler.”
İnsanlar ayırt etmede iyi değil
Chatbot’u tanıyor musunuz?
“Gerçek veya Sahte Metin” sayfasında, bir AI tarafından İngilizce bir metnin hangi noktadan devam ettiğini tahmin etmeniz gerekir. Ancak, kullanılan örnekler GPT-2’den, yani o kadar iyi olmayan bir önceki modelden alınmıştır. GPT-3 ve ChatGPT, insan konuşmasını taklit etmede önemli ölçüde daha iyidir.
Ancak araştırmalar, insanların genellikle makine tarafından oluşturulan metinleri bu şekilde tanımlamada pek iyi olmadığını gösteriyor. GPT-3 metnini tanımakla görevli eğitimsiz insanlar üzerinde yapılan ilgili bir çalışmada, sonuç az çok rastlantısaldı. Biraz eğitimle, insanların doğruluğu yüzde 55 ile yalnızca biraz daha iyiydi.
AI, AI’yı tanır
Ancak çok fazla pratik yapılmasına rağmen, teknik yardıma sahip olmayan kişilerin yapay zeka metin oluşturucuların çalışmalarını tanıması pek olası değildir. Son olarak, dil modelleri de insan konuşmasını taklit etmede giderek daha iyi hale geliyor. Bu nedenle teknik bir yaklaşım, bir yapay zekanın çalışmasının, üzerinde eğitilmiş bir yapay zeka tarafından ifşa edilmesidir.
OpenAI’ninki gibi ChatGPT gibi bazı tanıma araçlarına zaten İnternet üzerinden ücretsiz olarak erişilebilir: “AI Metin Sınıflandırıcı”, bir insan veya bir AI tarafından yazılan metinleri ayırt edebilmelidir. Ancak OpenAI, şimdiye kadar gerçekten güvenilir bir şekilde çalışmadığını doğrudan kabul ediyor. Şirketin kendisi tarafından yapılan bir değerlendirmede, “AI Text Classifier”, AI tarafından yazılmış metinlerin yalnızca yüzde 26’sını bu şekilde tanımladı. Aracın özellikle kısa metinlerle ilgili büyük sorunları var; Bu nedenle, bir metnin kontrol edilmesi için bir ön koşul, en az bin karakterlik bir uzunluktur. İngilizce dışındaki diller için “AI Metin Sınıflandırıcı” da “önemli ölçüde daha kötüdür”.
Neden tek başına güçlü bir parola bile koruma sağlamaz?
Kedinin adı şifre mi? Ve her hesap için? Tembel parola seçimleri, siber suçluların işini kolaylaştırır. Ancak uzun ve karmaşık parolaları da bulabilirler ve bu nedenle çok fazla hasara neden olabilirler. Çevrimiçi hesaplarınızı gerçekten nasıl koruyabilirsiniz?
AI tespiti için teknik araçlar
Edward Tian, ”İnsanlar gerçeği hak ediyor” diyor. Bu yüzden programladığı GPTZero uygulamasının sayfasındaki ilk mesaj bu. “Bir makalenin ChatGPT tarafından mı yoksa bir insan tarafından mı yazıldığını hızlı ve verimli bir şekilde tanımalı”, öğrenciyi anlattı. Basitçe ifade etmek gerekirse, uygulama iki gösterge kullanır: bir metnin ne kadar karmaşık olduğu ve cümle uzunluğunun ne kadar değişken olduğu.
Writer’ın AI İçerik Dedektörüne de ücretsiz olarak erişilebilir. Testte, her iki araç da bu metnin başındaki iki Almanca paragrafı bir yapay zeka tarafından oluşturulmuş olarak tanıyabildi. “Oberhessische Presse” (+) tarafından bildirildiği üzere Almanya’da da Latoda gibi şirketler “AI dedektifleri” üzerinde çalışıyor.
Filigran ve etiketleme gereksinimi
Tanıma araçları, aynı anda gelişen AI metin oluşturucularla sürekli rekabet halindedir. Ne de olsa amaçları, insanlarınkinden neredeyse ayırt edilemeyecek bir dil yaratmaktır. Bu nedenle uzmanlar, yalnızca uygun araçlar geliştirmenin değil, aynı zamanda örneğin zorunlu etiketleme yoluyla genel olarak daha fazla şeffaflık yaratmanın da zorunlu olduğunu düşünüyor. Örneğin, OpenAI zaten AI metinleri için bir tür filigran üzerinde çalışıyor.