1. Amaç

ISO/IEC 42005:2025 standardının amacı, yapay zeka (YZ) sistemlerinin potansiyel etkilerini sistematik, izlenebilir ve şeffaf bir şekilde değerlendirmeye yönelik bir çerçeve sunmaktır. Bu değerlendirme, YZ sistemlerinin etik, sosyal, çevresel ve ekonomik etkilerini göz önünde bulundurarak riskleri azaltmayı ve güveni artırmayı hedefler.

2. Kapsam

Bu standart;

• Kuruluşların geliştirdiği, dağıttığı veya kullandığı YZ sistemlerinin,

• İnsanlar, toplum, çevre ve temel haklar üzerindeki etkilerinin değerlendirilmesini kapsar.

Standart, hem özel sektör hem de kamu kuruluşları tarafından uygulanabilir.

3. Ana Unsurlar

3.1. Etki Değerlendirmesi Süreci

• Hazırlık Aşaması: YZ sisteminin kapsamı, amacı, paydaşları ve kullanım bağlamı tanımlanır.

• Veri ve Model Analizi: Kullanılan verilerin kalitesi, modelin öğrenme yöntemi, önyargı riskleri ve karar alma süreçleri incelenir.

• Risk Belirleme: Etik, sosyal, güvenlik ve çevresel açılardan potansiyel riskler belirlenir.

• Etkilerin Sınıflandırılması: Etkiler, derecelerine göre (düşük, orta, yüksek) sınıflandırılır.

• Azaltma Önlemleri: Belirlenen risklere karşı önleyici ve düzeltici faaliyetler planlanır.

3.2. Paydaş Katılımı

• Etki değerlendirmesi sürecine etkilenecek kişi ve toplulukların katılımı önerilir.

• Şeffaflık, hesap verebilirlik ve açıklık esastır.

3.3. İzleme ve Gözden Geçirme

• Değerlendirme tek seferlik değil, sistemin yaşam döngüsü boyunca tekrarlanmalı.

• Özellikle model güncellemeleri, veri değişiklikleri veya yeni kullanım alanlarında yeniden değerlendirme yapılmalıdır.

4. Etik İlkelerle Uyum

ISO/IEC 42005, aşağıdaki etik ilkelere uyumu teşvik eder:

• İnsan merkezlilik

• Güvenilirlik

• Şeffaflık

• Veri gizliliği

• Ayrımcılığın önlenmesi

• Hesap verebilirlik

5. Uygulama Örneği

Bir sağlık kuruluşu, tanı koymak için YZ destekli bir karar destek sistemi geliştiriyor. Bu sistem için:

• Kullanılan verilerin çeşitliliği (etnik, yaş, cinsiyet) analiz edilir.

• Hatalı kararların hasta güvenliği üzerindeki etkileri değerlendirilir.

• Alternatif karar yolları (insan denetimi) analiz sürecine dâhil edilir.

• Sistem devreye alınmadan önce bir YZ Etki Değerlendirme Raporu hazırlanır.

6. Belgelendirme ve Uyum

Bu standart henüz belgelendirmeye açık bir yönetim sistemi standardı değildir; ancak ISO/IEC 42001 gibi YZ yönetim sistemleri ile entegre çalışabilir. Kuruluşlar, bu çerçevede hazırlayacakları Etki Değerlendirme Raporları ile kendi iç kontrollerini belgeleyebilir.

7. Sonuç

ISO/IEC 42005:2025, yapay zekanın sorumlu, güvenli ve insan haklarına saygılı biçimde geliştirilmesini destekleyen önemli bir rehberdir. Kuruluşlar bu standart doğrultusunda hareket ederek sadece yasal ve etik yükümlülüklerini yerine getirmekle kalmaz, aynı zamanda paydaş güvenini de pekiştirir.