Adaletin Üç Yüzü ⚖️#

Sorunu anlamak için adaleti tanımlamanın ana rakiplerini bilmemiz gerekiyor. Makale üç popüler ölçüme odaklanıyor:

• Demografik Eşitlik: Bu ölçüm, bir modelin tahminlerinin ırk veya cinsiyet gibi hassas özelliklerden bağımsız olması gerektiği konusunda ısrar eder. Basit bir ifadeyle, olumlu sonuçların (örneğin kredi alma) oranı tüm gruplar için aynı olmalıdır.

• Eşitleştirilmiş Oranlar: Bu ölçüm, modelin doğruluğunun her sonuç için farklı gruplar arasında eşit olmasını gerektirir. Örneğin, gerçek pozitif oranı ve yanlış pozitif oranı hem erkekler hem de kadınlar için aynı olmalıdır.

• Tahmin Edici Eşitlik: Bu ölçüm, herhangi bir tahminin doğru olma olasılığının tüm gruplar için aynı olmasını sağlar. Örneğin, model bir kişinin bir krediyi geri ödeyeceğini öngörüyorsa, o gruptaki gerçek geri ödeme oranının tüm ırklar arasında tutarlı olması gerekir.

“İmkansızlık Teoremi”, önemsiz durumlar dışında, bir modelin bu ölçümlerin üçünü de aynı anda karşılayamayacağını kanıtlıyor. Bu, geliştiricileri zor durumda bıraktı ve onları başkalarının pahasına hangi adalet tanımına öncelik vereceklerini seçmeye zorladı.

Nedensel Bir Açıklama: Neden Bir Arada Var Olamıyorlar#

Makalenin temel katkısı bu imkansızlığı nedensel diyagramlar kullanarak açıklamaktır. Sadece istatistiklere bakmak yerine, her bir adalet ölçüsü için gerekli olan temel veri üreten yapıları inceler. hassas niteliği şu şekilde gösterelim:Agerçek sonuç olarakYve modelin tahmini şu şekildedir:Ŷ.

arasındaki nedensel ilişkiA,Y, VeŶHer metriğin geçerli olabilmesi için farklı yapılandırılması gerekir:

• Demografik Eşitlik için (ŶbağımsızdırA), tahmin ile hassas öznitelik arasındaki yol, aşağıdaki durumlarda doğal olarak engellenir:Ybir “çarpıştırıcı”dır.

NOTE

[Causal Diagram for Demographic Parity] A -> Y <- Ŷ

• Eşitleştirilmiş Oranlar için (“Ŷ”, “Y” verilen “A”dan bağımsızdır), “Y” gerçek sonucunun gözlemlenmesi, “A” ile “Ŷ” arasındaki yolu engeller. :::not[Eşitleştirilmiş Oranlar için Nedensel Diyagram]A -> Y -> Ŷ :::

• For Predictive Parity (Y is independent of A given Ŷ), observing the prediction Ŷ blocks the path. :::not[Tahmini Parite için Nedensel Diyagram]A -> Ŷ -> Yseri: isim: “Yapay Zeka Temelleri” sipariş: 3

Bu diyagramlardan, her bir metrik için gereken verilerin temel yapısının farklı ve birbirini dışlayan olduğu açıkça görülmektedir. Hepsini aynı anda karşılayan tek bir veri oluşturma sürecine sahip olamazsınız. Sorun öğrenme algoritması değil; bu, verinin kendisinin temel bir kısıtlamasıdır.

---

İleriye Doğru Yeni Bir Yol: Düzeltme Yoluyla Adalet 💡#

Peki, mükemmel adalet imkansızsa ne yapacağız? Yazar hedefi değiştirmemiz gerektiğini savunuyor.

Standart makine öğrenimi Deneysel Risk Minimizasyonunu (ERM) hedefler; bu, modelin (çoğunlukla önyargılı) eğitim verilerindeki etiketlerle mükemmel şekilde eşleştiği için ödüllendirildiği anlamına gelir. Peki ya amaç tarihsel etiketi tahmin etmek değil de adil etiketi tahmin etmekse?

“düzeltme değişkeni” sunan yeni bir nedensel çerçeve,C önerildi. DüşünebilirsinCbir anahtar olarak. Hassas nitelikten etkilenen bu değişkenA, modelin tahmininin olup olmadığını belirlerŶdoğru etiketi takip etmeliYveya farklı bir “adalet” işlevi.

NOTE

[Causal Diagram for Fairness Through Correction] A -> C C -> Ŷ Y -> Ŷ :::Temel olarak, tarihsel olarak avantajlı olan bir grup için model her zamanki gibi ilerleyebilir (C=1). Ancak dezavantajlı bir grup için düzeltme değişkeni tersine dönebilir (C=0), daha adil bir sonuç üretmek için modelin geçmiş verilerden sapmasına neden olur. Bu yaklaşımın çeşitli avantajları vardır:

• Adil olmanın aktif olarak önyargılı tarihsel kalıplardan sapmayı gerektirdiğini kabul eder.
• Uygulayıcıların, verilerin ne kadar adaletsiz olduğuna bağlı olarak ne kadar sapmanın gerekli olduğuna karar vermek için bir hiperparametre ayarlamasına olanak tanır.
• Düzeltme değişkenine bağlı olarak Demografik Eşitlik ve Eşitlenmiş Oranların daha gevşek versiyonlarını birlikte karşılayabilirC.

Bu nedensel yaklaşım, sorunu yeniden çerçevelendirerek, yalnızca dünyayı olduğu gibi yansıtmayan, aynı zamanda gelişen adalet anlayışlarımızla daha uyumlu bir dünya yaratmaya yardımcı olan modeller oluşturmak için güçlü bir araç sağlar.