Sağlık Önyargısı Tehlikelidir. Ama ‘Adalet’ Algoritmaları da Öyle

Aslında, burada tanımladığımız şey aslında en iyi durum senaryosudur ve burada her grup için performansı etkileyen basit değişiklikler yaparak adaleti sağlamanın mümkün olduğu bir senaryodur. Uygulamada, adalet algoritmaları çok daha radikal ve öngörülemez şekilde davranabilir. Bu anket ortalama olarak, bilgisayar görüşündeki çoğu algoritmanın tüm gruplara zarar vererek adaleti iyileştirdiğini buldu – örneğin, hatırlama ve doğruluğu azaltarak. Bir grubun uğradığı zararı azalttığımız varsayımımızın aksine, seviyeyi düşürmenin herkesin doğrudan daha kötü duruma gelmesi mümkündür.

Seviye düşürme koşuları toplumdaki algoritmik adalet ve daha geniş eşitlik hedeflerine aykırı: tarihsel olarak dezavantajlı veya marjinalize edilmiş gruplar için sonuçları iyileştirmek. Yüksek performans gösteren grupların performansını düşürmek, daha kötü performans gösteren gruplara açıkça fayda sağlamaz. Ayrıca, seviye düşürme tarihsel olarak dezavantajlı gruplara doğrudan zarar vermek. Bir avantajı başkalarıyla paylaşmak yerine kaldırmayı seçmek, ilgi eksikliğini, dayanışmayı ve sorunu fiilen çözme fırsatını değerlendirmeye istekli olmayı gösterir. Tarihsel olarak dezavantajlı grupları damgalar ve her şeyden önce bir soruna yol açan ayrılığı ve toplumsal eşitsizliği sağlamlaştırır.

İnsanların yaşamları hakkında kararlar almak için yapay zeka sistemleri oluşturduğumuzda, tasarım kararlarımız, neyin önceliklendirilmesi gerektiğine dair örtük değer yargılarını kodlar. Seviye düşürme, gerçek dünyadaki eşitlik sorularının merkezinde yer alan fayda, refah, öncelik ve diğer iyi şeyleri göz ardı ederken adaleti yalnızca gruplar arasındaki eşitsizlik açısından ölçme ve düzeltme seçiminin bir sonucudur. Algoritmik adaletin kaçınılmaz kaderi değildir; daha ziyade, herhangi bir kapsayıcı toplumsal, yasal veya etik nedenden dolayı değil, en az matematiksel direniş yolunu seçmenin sonucudur.

İlerlemek için üç seçeneğimiz var:

• Görünürde nüfusun yalnızca bir ayrıcalıklı kesimine fayda sağlarken diğerlerine ciddi şekilde zarar veren önyargılı sistemleri uygulamaya devam edebiliriz.
• Adaleti biçimsel matematiksel terimlerle tanımlamaya devam edebilir ve tüm gruplar için daha az doğru olan ve bazı gruplar için aktif olarak zararlı olan yapay zekayı devreye alabiliriz.
• “Seviye atlayarak” harekete geçebilir ve adaleti sağlayabiliriz.

Seviye atlamanın ahlaki, etik ve yasal olarak kabul edilebilir tek yol olduğuna inanıyoruz. Yapay zekada adaletin geleceği için zorluk, yalnızca seviye düşürme yoluyla prosedürel olarak adil değil, esasen adil olan sistemler yaratmaktır. Seviye atlamak daha karmaşık bir zorluktur: AI sistemlerindeki önyargıların gerçek hayattaki nedenlerini ortadan kaldırmak için aktif adımlarla eşleştirilmesi gerekir. Teknik çözümler genellikle bozuk bir sistemle başa çıkmak için yalnızca yara bandıdır. Sağlık hizmetlerine erişimin iyileştirilmesi, daha çeşitli veri kümelerinin derlenmesi ve özellikle tarihsel olarak dezavantajlı toplulukların karşılaştığı sorunları hedefleyen araçların geliştirilmesi, esaslı adaleti gerçeğe dönüştürmeye yardımcı olabilir.

Bu, iki sayıyı gruplar arasında eşit hale getirmek için bir sistemde ince ayar yapmaktan çok daha karmaşık bir zorluktur. Yapay zeka sistemlerinin sıfırdan yeniden tasarlanması da dahil olmak üzere yalnızca önemli teknolojik ve metodolojik yenilikleri değil, aynı zamanda sağlık hizmetlerine erişim ve harcamalar gibi alanlarda önemli sosyal değişiklikleri de gerektirebilir.

Zor olsa da, bu “adil yapay zeka”ya yeniden odaklanmak esastır. AI sistemleri hayat değiştiren kararlar verir. Nasıl ve kime karşı adil olmaları gerektiğine ilişkin seçimler, adaleti çözülmesi gereken basit bir matematik problemi olarak ele almak için çok önemlidir. Bu, seviye düşürme yoluyla eşitliğe ulaşan adalet yöntemleriyle sonuçlanan statükodur. Şimdiye kadar, matematiksel olarak adil olan, ancak dezavantajlı gruplara bariz bir şekilde fayda sağlayamayan ve etmeyen yöntemler yarattık.

Bu yeterli değil. Mevcut araçlar, algoritmik adalet için bir çözüm olarak ele alınıyor, ancak şu ana kadar vaatlerini yerine getirmiyorlar. Ahlaki açıdan belirsiz etkileri, kullanılma olasılıklarını azaltır ve bu sorunlara yönelik gerçek çözümleri yavaşlatıyor olabilir. İhtiyacımız olan şey, seviye atlayarak adil olan, diğerlerine keyfi olarak zarar vermeden daha kötü performans gösteren gruplara yardımcı olan sistemler. Şimdi çözmemiz gereken zorluk bu. Sadece matematiksel olarak değil, esasen adil olan yapay zekaya ihtiyacımız var.