“Yapay Zeka İnsan Hakları” müzakere ediliyor, ilgilenmelisiniz Bu, yapay zekaya ilişkin Avrupa düzenlemesi olan “Yapay Zeka Yasası” tarafından şu ana kadar sahneden kaldırılan, ancak tüm dikkatimizi hak etmesi gereken, yapay zekaya ilişkin bir metindir. 14 Mart'ta Strazburg'da “Yapay Zeka Çerçeve Sözleşmesi”ni tartışmak üzere bir araya gelen elli ülke, yapay zekaya ilişkin ilk uluslararası anlaşma olarak kabul edilen şeye ilişkin geçici bir anlaşma bulmayı başardı. AI.
Avrupa Birliği ile hiçbir ilgisi olmayan bir kurum olan Avrupa Konseyi bünyesinde – Amerika Birleşik Devletleri, Kanada, Japonya, Avrupa Birliği ve diğer birçok ülke – neredeyse iki buçuk yıldır, Avrupa Birliği ile hiçbir ilgisi olmayan on dört sayfa üzerinde anlaşmaya varmaya çalışıyor. insan haklarına ve “etik yapay zeka” diyebileceğimiz şeye.
” VSYapay zeka ile ilgili bazı faaliyetler insan onurunu, bireysel özerkliği, insan haklarını, demokrasiyi ve hukukun üstünlüğünü zedeleyebilir », Giriş kısmında yazıyorlar. Aslında var” ayrımcılık riskleri “, ile ilgili ” AI'nın kötüye kullanılması » – bu sistemler gibi « baskıcı amaçlarla kullanıldığı, keyfi veya yasa dışı gözetim ve sansür » diye ekliyorlar.
Yapay zekayla ilgili bu yeni metin nedir?
Bu, 46 üyeden oluşan ve amacı yapay zekayı korumak olan uluslararası bir kurum olan Avrupa Konseyi (Avrupa Birliği'nin 27 ülkesini temsil eden “Konsey”den farklı olarak) tarafından geliştirilen yapay zekaya ilişkin ilk uluslararası anlaşmadır. insan hakları. “Yapay zeka komitesi” içinde bir anlaşma bulunursa, bunun yine de “bakanlar komitesi” tarafından onaylanması gerekiyor ve bu adımın Mayıs ayı içinde atılması gerekiyor.
Yapay zekanın düzenlenmesi çağrısında bulunan son Birleşmiş Milletler kararının aksine, bu metin sonuçta bağlayıcı olacak. Ancak uygulanabilir hale gelmesi için uzun bir süreç takip etmesi gerekecek: İmza sahibi her Devlet tarafından onaylanması ve ardından her ulusal yasaya aktarılması gerekecek. Tüm bu adımlar tamamlandıktan sonra geçerli olabilir. Avrupa Birliği'ne, aynı zamanda Amerika Birleşik Devletleri'ne, Avustralya'ya, Kanada'ya, Japonya'ya, Meksika'ya, Kosta Rika'ya, Arjantin'e… Ve isteyen tüm ülkelere.
Onun amacı ” Yapay zekanın geliştirilmesini, tasarlanmasını ve uygulanmasını Avrupa Konseyi ilkeleriyle uyumlu hale getirmeyi amaçlamaktadır. », Genel Sekreteri Marija Pejčinović Burić bir basın açıklamasında altını çiziyor. Editörlerine göre, hem ChatGPT gibi üretken yapay zekayı hem de sosyal ağlarda önerilerde bulunmak için kullanılan tahmine dayalı yapay zekayı (AI) içeren yapay zeka, insan haklarını, demokrasiyi ve hukukun üstünlüğünü ihlal etmemelidir.
Anlaşma bir boşluğu doldurmayı amaçlıyor. Şu ana kadar kurallar çoğunlukla OpenAI, Google, Mistral gibi bu yapay zekaları geliştiren şirketler tarafından belirleniyor. Ve insan haklarına saygı öncelikleri arasında yer almaktan uzaktır. “ Buradaki fikir, sistemlerinin piyasaya sürülmesini (ve genel kamuoyunun erişimine sunulmasını, editörün notu) beklemek değil, demokratik kuralları olabildiğince çabuk ve yukarı yönde uygulamaya koymaktır. », diye açıklıyor Haberler'un röportaj yaptığı Bilgi ve Demokrasi Forumu Politika Yöneticisi Katharina Zügel.
Saygı duyulması gereken ilkeler arasında şunlar yer almaktadır: insan hakları, demokrasi, insan onuru, şeffaflık, eşitlik ve ayrımcılık yapmama, kişisel verilere ve mahremiyete ilişkin kurallara saygı ile güvenli yenilik fikri. Örneğin yapay zeka sistemleri kullanılmamalı” Kuvvetler ayrılığı ilkesi, yargı bağımsızlığına saygı ve adalete erişim de dahil olmak üzere demokratik kurum ve süreçlerin bütünlüğünü, bağımsızlığını ve etkinliğini zayıflatmak “.
Yapay Zeka Yasası ile arasındaki fark nedir?
Avrupa AI yönetmeliğinin aksine, bu uluslararası bir anlaşmadır. “ Müzakerelerin sektördeki birçok firmaya ev sahipliği yapan Amerika Birleşik Devletleri, Japonya ve Kanada gibi ülkeleri de kapsaması nedeniyle kapsamı Avrupa Birliği'nin ötesine geçmektedir. herkes anlaşmayı imzalayabilir mi », Metni yakından takip eden Katharina Zügel'i belirtiyor.
Başka bir fark: 459 sayfa boyunca yapay zeka araçlarının piyasaya sürülmesi için uyması gereken kuralları listeleyen Yapay Zeka Yasası'nın aksine, çerçeve anlaşması oldukça kısa bir belgedir. 14 Mart tarihli geçici anlaşmanın on sayfası eski bir gazeteci tarafından yayımlandı.EURACTIV LinkedIn'de, ardından Bağlam. Yapay zekanın oluşturulması, uygulanması ve geliştirilmesinde saygı duyulması gereken temel ilkeleri, standartları ve hakları tanımlar. Ancak bunu kendi kanunlarına aktarmak ve uygulama tedbirleri sorununu çözmek, sözleşmede bir izleme mekanizması öngörse bile, bunu onaylayan Devletlere kalmıştır.
İkincisi, eşitlik ve ayrımcılık yapmama ilkelerinin uygulanması için alınacak önlemleri öneren Bilgi ve Demokrasi Forumu tarafından geçen Şubat ayında yayınlanan tavsiyelere güvenebilir. Bunların arasında örneğin şu gerçeği buluyoruz: “ Yapay zekayı geliştiren ekipleri daha kapsayıcı ve çeşitliliğe sahip ekiplere açmak, yapay zekayı eğitmek için kullanılan veri seçimine karar vermek sivil toplum ve araştırmacılar, sistemlerinin etki analizlerini uygulamak için...”, kamu politikası yöneticisini listeliyor.
Kağıt üzerinde anlaşmanın amacını anlıyoruz, ancak pratikte yapay zeka araçları geliştiren özel şirketlerin gerçekten bu metni uygulaması gerekecek mi? Bu konu kurum içinde hararetle tartışılıyor. İlk versiyonda, taslağı hazırlayanlar, ulusal savunma istisnaları dışında, sözleşmenin özel ve kamu sektörlerine ayrım yapılmaksızın uygulanmasını önerdiler. Ancak geçen Aralık ayında yayınlanan versiyonda satırlar değişti. Özel sektöre yönelik bir istisna getirildi.
İnsan Hakları Birliği, Sınır Tanımayan Muhabirler, Siber Tacize Karşı Feministler, Access Now veya Public Eye gibi STK'lar gibi hak savunucularını neşelendirmeye yetecek kadar. Açık bir mektupta, Büyük Teknoloji ve şirketlerin yapay zeka sektöründen bu olası dışlanmasından üzüntü duydular. Bu şu anlama gelir: sözleşmeyi özünden boşaltın “teklif etmeyerek” Giderek daha güçlü yapay zeka sistemlerine maruz kalan, önyargıya, insan manipülasyonuna ve demokratik kurumların istikrarsızlaşmasına yatkın olan bireyler için çok az anlamlı koruma “, yazdılar.
14 Mart'taki geçici anlaşma sonuçta bir orta yolu tercih etti: Özel sektör varsayılan olarak kapsam dışında değil, ancak sözleşmeyi imzalayan devletler sözleşmenin kendilerine nasıl uygulanacağını seçebilecek. Müzakereciler ülkelerin aşağıdakiler arasında seçim yapabilmesini önerdi:
Savunma sektörünün dışlanması da bir gerilim kaynağı oldu. Burada da STK'lar, ulusal güvenlik amacıyla kullanılan yapay zekalara (dolayısıyla askeri uygulamalara veya istihbarat servisleri tarafından kullanılanlara) ilişkin uluslararası hukuka saygı gösterme yükümlülüğünün en azından Sözleşme'ye dahil edilmesini talep etti. Bazı ülkeler ise genel muafiyet fikrini savundu. Nihayet bu ilk benimsenen yaklaşım. THE Ulusal güvenliğin korunmasına ilişkin faaliyetlerin Çerçeve Sözleşmesine uyması gerekmeyecek ancak uluslararası hukuka uygun olarak gerçekleştirilmesi gerekiyor.
Bu uzlaşmalar metnin son versiyonunda da korunacak mı? Kabul edilmesinin bir sonraki aşaması önümüzdeki Mayıs ayında kurumun Bakanlar Komitesi önünde gerçekleşecek.
Avrupa Birliği ile hiçbir ilgisi olmayan bir kurum olan Avrupa Konseyi bünyesinde – Amerika Birleşik Devletleri, Kanada, Japonya, Avrupa Birliği ve diğer birçok ülke – neredeyse iki buçuk yıldır, Avrupa Birliği ile hiçbir ilgisi olmayan on dört sayfa üzerinde anlaşmaya varmaya çalışıyor. insan haklarına ve “etik yapay zeka” diyebileceğimiz şeye.
” VSYapay zeka ile ilgili bazı faaliyetler insan onurunu, bireysel özerkliği, insan haklarını, demokrasiyi ve hukukun üstünlüğünü zedeleyebilir », Giriş kısmında yazıyorlar. Aslında var” ayrımcılık riskleri “, ile ilgili ” AI'nın kötüye kullanılması » – bu sistemler gibi « baskıcı amaçlarla kullanıldığı, keyfi veya yasa dışı gözetim ve sansür » diye ekliyorlar.
Yapay zekayla ilgili bu yeni metin nedir?
Bu, 46 üyeden oluşan ve amacı yapay zekayı korumak olan uluslararası bir kurum olan Avrupa Konseyi (Avrupa Birliği'nin 27 ülkesini temsil eden “Konsey”den farklı olarak) tarafından geliştirilen yapay zekaya ilişkin ilk uluslararası anlaşmadır. insan hakları. “Yapay zeka komitesi” içinde bir anlaşma bulunursa, bunun yine de “bakanlar komitesi” tarafından onaylanması gerekiyor ve bu adımın Mayıs ayı içinde atılması gerekiyor.
Yapay zekanın düzenlenmesi çağrısında bulunan son Birleşmiş Milletler kararının aksine, bu metin sonuçta bağlayıcı olacak. Ancak uygulanabilir hale gelmesi için uzun bir süreç takip etmesi gerekecek: İmza sahibi her Devlet tarafından onaylanması ve ardından her ulusal yasaya aktarılması gerekecek. Tüm bu adımlar tamamlandıktan sonra geçerli olabilir. Avrupa Birliği'ne, aynı zamanda Amerika Birleşik Devletleri'ne, Avustralya'ya, Kanada'ya, Japonya'ya, Meksika'ya, Kosta Rika'ya, Arjantin'e… Ve isteyen tüm ülkelere.
Onun amacı ” Yapay zekanın geliştirilmesini, tasarlanmasını ve uygulanmasını Avrupa Konseyi ilkeleriyle uyumlu hale getirmeyi amaçlamaktadır. », Genel Sekreteri Marija Pejčinović Burić bir basın açıklamasında altını çiziyor. Editörlerine göre, hem ChatGPT gibi üretken yapay zekayı hem de sosyal ağlarda önerilerde bulunmak için kullanılan tahmine dayalı yapay zekayı (AI) içeren yapay zeka, insan haklarını, demokrasiyi ve hukukun üstünlüğünü ihlal etmemelidir.
Anlaşma bir boşluğu doldurmayı amaçlıyor. Şu ana kadar kurallar çoğunlukla OpenAI, Google, Mistral gibi bu yapay zekaları geliştiren şirketler tarafından belirleniyor. Ve insan haklarına saygı öncelikleri arasında yer almaktan uzaktır. “ Buradaki fikir, sistemlerinin piyasaya sürülmesini (ve genel kamuoyunun erişimine sunulmasını, editörün notu) beklemek değil, demokratik kuralları olabildiğince çabuk ve yukarı yönde uygulamaya koymaktır. », diye açıklıyor Haberler'un röportaj yaptığı Bilgi ve Demokrasi Forumu Politika Yöneticisi Katharina Zügel.
Saygı duyulması gereken ilkeler arasında şunlar yer almaktadır: insan hakları, demokrasi, insan onuru, şeffaflık, eşitlik ve ayrımcılık yapmama, kişisel verilere ve mahremiyete ilişkin kurallara saygı ile güvenli yenilik fikri. Örneğin yapay zeka sistemleri kullanılmamalı” Kuvvetler ayrılığı ilkesi, yargı bağımsızlığına saygı ve adalete erişim de dahil olmak üzere demokratik kurum ve süreçlerin bütünlüğünü, bağımsızlığını ve etkinliğini zayıflatmak “.
Yapay Zeka Yasası ile arasındaki fark nedir?
Avrupa AI yönetmeliğinin aksine, bu uluslararası bir anlaşmadır. “ Müzakerelerin sektördeki birçok firmaya ev sahipliği yapan Amerika Birleşik Devletleri, Japonya ve Kanada gibi ülkeleri de kapsaması nedeniyle kapsamı Avrupa Birliği'nin ötesine geçmektedir. herkes anlaşmayı imzalayabilir mi », Metni yakından takip eden Katharina Zügel'i belirtiyor.
Başka bir fark: 459 sayfa boyunca yapay zeka araçlarının piyasaya sürülmesi için uyması gereken kuralları listeleyen Yapay Zeka Yasası'nın aksine, çerçeve anlaşması oldukça kısa bir belgedir. 14 Mart tarihli geçici anlaşmanın on sayfası eski bir gazeteci tarafından yayımlandı.EURACTIV LinkedIn'de, ardından Bağlam. Yapay zekanın oluşturulması, uygulanması ve geliştirilmesinde saygı duyulması gereken temel ilkeleri, standartları ve hakları tanımlar. Ancak bunu kendi kanunlarına aktarmak ve uygulama tedbirleri sorununu çözmek, sözleşmede bir izleme mekanizması öngörse bile, bunu onaylayan Devletlere kalmıştır.
İkincisi, eşitlik ve ayrımcılık yapmama ilkelerinin uygulanması için alınacak önlemleri öneren Bilgi ve Demokrasi Forumu tarafından geçen Şubat ayında yayınlanan tavsiyelere güvenebilir. Bunların arasında örneğin şu gerçeği buluyoruz: “ Yapay zekayı geliştiren ekipleri daha kapsayıcı ve çeşitliliğe sahip ekiplere açmak, yapay zekayı eğitmek için kullanılan veri seçimine karar vermek sivil toplum ve araştırmacılar, sistemlerinin etki analizlerini uygulamak için...”, kamu politikası yöneticisini listeliyor.
Özel sektöre uygulanacak mı?
Kağıt üzerinde anlaşmanın amacını anlıyoruz, ancak pratikte yapay zeka araçları geliştiren özel şirketlerin gerçekten bu metni uygulaması gerekecek mi? Bu konu kurum içinde hararetle tartışılıyor. İlk versiyonda, taslağı hazırlayanlar, ulusal savunma istisnaları dışında, sözleşmenin özel ve kamu sektörlerine ayrım yapılmaksızın uygulanmasını önerdiler. Ancak geçen Aralık ayında yayınlanan versiyonda satırlar değişti. Özel sektöre yönelik bir istisna getirildi.
İnsan Hakları Birliği, Sınır Tanımayan Muhabirler, Siber Tacize Karşı Feministler, Access Now veya Public Eye gibi STK'lar gibi hak savunucularını neşelendirmeye yetecek kadar. Açık bir mektupta, Büyük Teknoloji ve şirketlerin yapay zeka sektöründen bu olası dışlanmasından üzüntü duydular. Bu şu anlama gelir: sözleşmeyi özünden boşaltın “teklif etmeyerek” Giderek daha güçlü yapay zeka sistemlerine maruz kalan, önyargıya, insan manipülasyonuna ve demokratik kurumların istikrarsızlaşmasına yatkın olan bireyler için çok az anlamlı koruma “, yazdılar.
14 Mart'taki geçici anlaşma sonuçta bir orta yolu tercih etti: Özel sektör varsayılan olarak kapsam dışında değil, ancak sözleşmeyi imzalayan devletler sözleşmenin kendilerine nasıl uygulanacağını seçebilecek. Müzakereciler ülkelerin aşağıdakiler arasında seçim yapabilmesini önerdi:
- Sözleşmeyi özel aktörlere veya mevcut haliyle uygulamak
- Metnin hedef ve amaçlarına ulaşmak için “diğer uygun önlemleri” alın.
Savunma sektörünün dışlanması da bir gerilim kaynağı oldu. Burada da STK'lar, ulusal güvenlik amacıyla kullanılan yapay zekalara (dolayısıyla askeri uygulamalara veya istihbarat servisleri tarafından kullanılanlara) ilişkin uluslararası hukuka saygı gösterme yükümlülüğünün en azından Sözleşme'ye dahil edilmesini talep etti. Bazı ülkeler ise genel muafiyet fikrini savundu. Nihayet bu ilk benimsenen yaklaşım. THE Ulusal güvenliğin korunmasına ilişkin faaliyetlerin Çerçeve Sözleşmesine uyması gerekmeyecek ancak uluslararası hukuka uygun olarak gerçekleştirilmesi gerekiyor.
Bu uzlaşmalar metnin son versiyonunda da korunacak mı? Kabul edilmesinin bir sonraki aşaması önümüzdeki Mayıs ayında kurumun Bakanlar Komitesi önünde gerçekleşecek.
01net'ten hiçbir haberi kaçırmamak için bizi Google Haberler ve WhatsApp'tan takip edin.