Yapay Zekâ ve Etik: Kararı Kim Veriyor, Sorumluluğu Kim Alıyor?

Yapay zekâdan bir metni özetlemesini, bir soruyu açıklamasını veya bir fikir üretmesini isteyebiliyoruz. Birkaç saniyede sonuç almak oldukça kullanışlı. Ancak bir sistemin hızlı çalışması, verdiği sonucun doğru ya da adil olduğu anlamına gelmiyor. Özellikle insanların hayatını etkileyen kararlar söz konusu olduğunda, yalnızca “işimizi kolaylaştırıyor” demek yeterli değil.

Yapay zekânın etik değerlerinden söz ederken aslında bu sistemlerin nasıl geliştirildiğini, hangi amaçlarla kullanıldığını ve insanlara nasıl etki ettiğini sorguluyoruz. UNESCO da yapay zekâ etiğine ilişkin tavsiyesinde insan haklarını, adaleti, şeffaflığı ve insan denetimini merkeze alıyor.

Bilgisayarın kararı her zaman tarafsız mı?

Bir işe alım sistemini düşünelim. Geçmişte belirli grupların daha çok işe alındığı kayıtlarla eğitilen bir sistem, bu durumu başarılı adayın özelliği gibi öğrenebilir. Böylece eski eşitsizlikleri azaltmak yerine yeniden üretebilir. Bu, olası bir durumu anlatan örnek; her yapay zekâ sisteminin aynı şekilde davranacağı anlamına gelmiyor.

Yine de önemli bir soruyu ortaya çıkarıyor: Bir kararın bilgisayar tarafından verilmesi, onu neden otomatik olarak tarafsız saysın? Kullanılan veriler, belirlenen hedefler ve yapılan kontroller sonucu etkiler. Bu yüzden yalnızca sistemin ne kadar başarılı olduğuna değil, kimler için başarılı olduğuna da bakmak gerekir.

Kolaylık karşılığında ne paylaşıyoruz?

Etik meselenin bir diğer tarafı mahremiyet. Bir uygulamaya verdiğimiz kişisel bilgiler, yalnızca cevap üretmek için kullanılan sıradan malzemeler olarak görülmemeli. Hangi bilginin neden toplandığı, nerede saklandığı ve kimlerin erişebildiği anlaşılır olmalı.

Şeffaflık da bununla bağlantılı. İnsanlar, kendilerini etkileyen bir değerlendirmede yapay zekâ kullanıldığını bilmeli ve sonucu sorgulayabilmeli. OECD’nin ilkeleri de mahremiyetin korunmasını, ayrımcılığın önlenmesini ve yapay zekâ sonuçlarına itiraz edilebilmesini vurguluyor.

“Sistem böyle karar verdi” yeterli bir açıklama değil

Bize göre konu, özellikle kamu kurumlarında daha ciddi bir sorumluluk taşıyor. Bir başvurunun değerlendirilmesinde veya kamu hizmetinin sunulmasında yapay zekâdan yararlanılması mümkün olabilir. Ancak vatandaşın karşısına yalnızca anlaşılmayan bir sonuç koymak, hesap verebilirlik açısından yeterli değildir.

Bir şirketin ya da kurumun “algoritma böyle karar verdi” diyerek sorumluluktan uzaklaşmasını normal karşılamamalıyız. Sistemi seçen, kullanıma açan ve sonuçlarına göre işlem yapan insanların denetim yükümlülüğü devam etmeli. Teknolojik gelişme, kararların sorgulanmasını zorlaştıran bir gerekçeye dönüşmemeli.

Sonuç olarak yapay zekâyı tamamen reddetmek de her söylediğine güvenmek de doğru bir yaklaşım değil. Önemli olan, sağladığı faydayı insan hakları ve sorumlulukla birlikte değerlendirmek. İyi bir yapay zekâ sistemi yalnızca hızlı sonuç veren değil; hataları fark edilebilen, sonuçları sorgulanabilen ve insanlara adil davranması için denetlenen bir sistem olmalı.