Copilot Designer'ın rahatsız edici görüntüler oluşturmasını sağlamak çok fazla zaman almaz. Bir Microsoft AI mühendisi, hiçbir tepkiye yol açmadan şirket içinde aylarca alarm verdi. Microsoft'un sorumluluk söylemini baltalama riskini göze alarak şu anda doğrudan Amerikalı düzenleyiciye hitap ediyor.
Microsoft'ta yapay zeka mühendisi olan Shane Jones, Copilot Designer'da (eski adıyla Bing Image Generator) güvenlik açıklarını bulmaya başladığında, her şeyden önce rahatsız edici görüntüler oluşturmayı çok kolay buldu : silahlı gençler, şiddet içeren durumlardaki kadınların temsilleri, gençlerde alkolizm…
Bot, birkaç basit kelimeyle oluşturulabilecek rahatsız edici görsellerin yanı sıra, telif hakkı ihlali teşkil edebilecek Disney karakterlerinin yer aldığı görseller de üretiyor. Microsoft'un sorumlu yapay zekaya ilişkin ana ilkelerinden çok çok uzak.
İki şirketin görünürdeki ilgisizliğinden endişe duyan mühendis, şimdi FTC'ye (Federal Ticaret Komisyonu) ve Microsoft yönetim kuruluna gönderdiği mektubu LinkedIn hesabında yayınlayarak vites yükseltiyor. “ Geçtiğimiz üç ay boyunca Microsoft'a, daha iyi koruma önlemleri alınana kadar Copilot Designer'ı kamu kullanımından kaldırması yönünde defalarca çağrıda bulundum. “Grubun sahip olmasından üzüntü duyduğunu yazıyor” reddedildi [sa] öneri “.
Ancak riskler başından beri biliniyordu ve hatta “ AI modelinin kamuya açıklanmasından önce ” diye devam ediyor. Microsoft ve OpenAI bu hizmeti şu amaçlarla pazarlamaya devam ediyor: herkes, her yerde, her cihazda “. Shane Jones, FTC'nin konuyla ilgili bağımsız bir soruşturma başlatmasını öneriyor.
Hikaye eninde sonunda medyada yer alsa da, Microsoft kamuoyuna açıklama yaptı ancak konunun özü hakkında bilgi vermedi. Şirket basitçe şunu açıkladı: “ Güçlü dahili raporlama kanalları » Güvenlik geçişlerini uyarmak veya endişeleri dile getirmek için mevcuttur. Yine de, CNBC Shane Jones'un isteklerini yakalayan Copilot Designer ile şiddet içeren görüntüleri kolayca yeniden üretmeyi başardı.
Hikaye, Gemini'nin görsel oluşturma hizmetine sıçrayan ve Google'ın duraklatmak zorunda kaldığı tartışmayı hatırlatıyor: bot, tarihsel olarak yanlış temsillerin görsellerini üretiyordu.
Opera One – Yapay zeka destekli web tarayıcısı
Yazan: Opera
Kaynak :
CNBC
Microsoft'ta yapay zeka mühendisi olan Shane Jones, Copilot Designer'da (eski adıyla Bing Image Generator) güvenlik açıklarını bulmaya başladığında, her şeyden önce rahatsız edici görüntüler oluşturmayı çok kolay buldu : silahlı gençler, şiddet içeren durumlardaki kadınların temsilleri, gençlerde alkolizm…
Bot, birkaç basit kelimeyle oluşturulabilecek rahatsız edici görsellerin yanı sıra, telif hakkı ihlali teşkil edebilecek Disney karakterlerinin yer aldığı görseller de üretiyor. Microsoft'un sorumlu yapay zekaya ilişkin ana ilkelerinden çok çok uzak.
Geçmişi geçtiğimiz Aralık ayına kadar uzanan bu keşif, çalışanın yönetime haber vermesine neden oldu; endişelerin farkındaydı ancak görüntü oluşturma aracını geçici olarak kaldırmak istemedi. Bunun yerine Microsoft, Copilot Designer teknolojisini sağlayan OpenAI'ye başvurmasını istedi. Shane Jones, soruşturma sırasında Dall-E 3'ün askıya alınmasını istedi ancak şirket buna kulak asmadı.
İki şirketin görünürdeki ilgisizliğinden endişe duyan mühendis, şimdi FTC'ye (Federal Ticaret Komisyonu) ve Microsoft yönetim kuruluna gönderdiği mektubu LinkedIn hesabında yayınlayarak vites yükseltiyor. “ Geçtiğimiz üç ay boyunca Microsoft'a, daha iyi koruma önlemleri alınana kadar Copilot Designer'ı kamu kullanımından kaldırması yönünde defalarca çağrıda bulundum. “Grubun sahip olmasından üzüntü duyduğunu yazıyor” reddedildi [sa] öneri “.
Ancak riskler başından beri biliniyordu ve hatta “ AI modelinin kamuya açıklanmasından önce ” diye devam ediyor. Microsoft ve OpenAI bu hizmeti şu amaçlarla pazarlamaya devam ediyor: herkes, her yerde, her cihazda “. Shane Jones, FTC'nin konuyla ilgili bağımsız bir soruşturma başlatmasını öneriyor.
Hikaye eninde sonunda medyada yer alsa da, Microsoft kamuoyuna açıklama yaptı ancak konunun özü hakkında bilgi vermedi. Şirket basitçe şunu açıkladı: “ Güçlü dahili raporlama kanalları » Güvenlik geçişlerini uyarmak veya endişeleri dile getirmek için mevcuttur. Yine de, CNBC Shane Jones'un isteklerini yakalayan Copilot Designer ile şiddet içeren görüntüleri kolayca yeniden üretmeyi başardı.
Hikaye, Gemini'nin görsel oluşturma hizmetine sıçrayan ve Google'ın duraklatmak zorunda kaldığı tartışmayı hatırlatıyor: bot, tarihsel olarak yanlış temsillerin görsellerini üretiyordu.
01net'ten hiçbir haberi kaçırmamak için bizi Google Haberler ve WhatsApp'tan takip edin.
Opera One – Yapay zeka destekli web tarayıcısı
Yazan: Opera
Kaynak :
CNBC