Yapay zekayı yönetmenin beş anahtarı, José Luis Rojo ve David de Falguera

8 Aralık’ta yapay zeka alanında yeni bir dönüm noktası yaşandı. Avrupalı ​​örgütler, aşağıdakileri belirleyen geçici bir anlaşmaya vardılar: gelecekteki ‘Yapay Zeka Düzenlemesinin temelleri’‘, dünya çapında benimseyen ilk bölge olmak Konuyla ilgili kapsamlı ve özel düzenlemeler.

Diğer bölgeler de farklı stratejilerle de olsa yapay zekanın düzenlenmesinde ilerleme kaydetti iyi uygulamalara veya sektör düzenlemelerine dayalıS. Yapay zekayı yönetmeye yönelik bu küresel bağlam çerçevesinde, temel olarak aşağıdaki 5 anahtar halinde sınıflandırılabilecek bir dizi ortak ilke oluşturulmaktadır:

1) Envanter yapay zeka sistemleri: olmalıdır Kuruluş tarafından geliştirilen veya uygulanan tüm yapay zeka sistemlerini tanımlayın. Birleştirilen yapay zekanın geniş tanımının yanı sıra boyutları ve karar alma modelleri göz önüne alındığında belirli kuruluşların sunabileceği karmaşıklık göz önüne alındığında, bu görev karmaşık olabilir. Bunu başarmak için yapay zekayla bağlantılı herhangi bir girişimin tespit edilmesine ve doğru şekilde raporlanmasına olanak tanıyan yeterli prosedürlere sahip olmak önemlidir.

2) Yapay zeka sistemlerini değerlendirin ve kategorilere ayırın: Sistemlerin envanteri çıkarıldıktan sonra her biri, aşağıdakileri temel alan bir yaklaşım dikkate alınarak analiz edilmelidir: kişilerin güvenliğine veya temel haklarına yönelik risk teşkil etme riski ve alınacak uygun önlemleri belirlemek için bunları sınıflandırın.

Bu durumda zorluk, risklerin olası tüm yönleriyle (itibar etkisi, hak ihlali, üçüncü taraflara karşı sorumluluk vb.) analiz edilmesinde yatmaktadır. Bu hedefe ulaşmak için, riske ilişkin farklı bakış açılarını sunan farklı profilleri dahil etmek çok önemlidir.

3) Yapay zeka sistemlerini siber saldırılardan koruyun: Yapay zeka ortamında bir siber saldırı “yalnızca” büyük hacimli hassas verilerin gizliliğinin kaybına neden olmakla kalmaz, aynı zamanda Yapay zeka platformlarının işleyişini ve öğrenimini yöneten algoritmaları ve modelleri değiştirerek sessizce hareket edebilirler. Fark edilmeden gidebilen bu siber saldırılar, sonuçlarda kendi kendine hizmet eden önyargılar ortaya çıkararak vatandaşların temel haklarını tehlikeye atabilir.

Kuruluşların önündeki zorluk, yapay zeka sistemlerini sorunsuz bir şekilde korumak ve aynı zamanda saldırılara yönelik algılama ve yanıt mekanizmalarını belirli bir şekilde oluşturmaktır. Benzer şekilde, sistemin yaşam döngüsü boyunca güvenilirliğini garanti altına almak için güvenliğin izlenmesi ve denetlenmesi gerekir. Tasarım gereği güvenlik ve SOC (Güvenlik Operasyon Merkezi) hizmetleri gibi kavramlar her zamankinden daha önemli.

4) Şeffaflığı ve açıklanabilirliği sağlayın: Ayrıca, kullanıcıların nasıl çalıştıklarını anlayabilmeleri için yapay zeka sistemlerinin şeffaf olması da çok önemlidir. Yine de, Karmaşık algoritmaların ve makine öğrenimi tekniklerinin kullanılması şeffaflık ve açıklanamazlık yaratabilir. Dolayısıyla bu ‘kara kutu’ olgusu, sistemin adil ve önyargısız bir şekilde işleyip işlemediği sorusunu gündeme getirebilir.

Bu zorluğun üstesinden gelmek için, baştan itibaren şeffaf bir tasarımın tercih edilmesi ve kullanıcıların bu sistemlerin kullanımı hakkında bilgi sahibi olmalarına, bunlara uygulanan mantığı anlamalarına ve bunların sonuçlarını ve etkilerini yorumlayabilmelerine olanak tanıyan zamanında, açık ve kısa talimatlar geliştirmek esastır. .

Alakalı haberler

5) Veri korumasına saygı gösterin: Yapay zeka sistemleri genellikle kişisel verilerle desteklendiğinden, kişisel verilerin gizliliği ve korunması, tüm yaşam döngüsü boyunca garanti edilmelidir. Bu nedenle esastır teknik ve organizasyonel önlemleri uygulamak Bu konuda uygulanacak mevzuatta öngörülen esasları sağlamak. Bu sistemlerin doğası göz önüne alındığında, risklerin belirlenmesi ve bu haklara saygı gösterilmesini sağlayacak önlemlerin uygulanması için etki değerlendirmelerinin yapılması gerekli olacaktır.

Sonuç olarak, kamu ve özel kuruluşların yapay zekayla ilişkili risklere karşı proaktif bir yaklaşım benimsemesi hayati önem taşıyor. Bu, daha önce bahsedilen beş alana odaklanarak ve bunun kanıtlarını elde ederek, zorunlu olarak, yapay zeka yönetimini dijital dönüşüm planlarının çerçevesine temel bir unsur olarak entegre etmeleri gerektiği anlamına geliyor.

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir