En basit ifadeyle yapay zekâ (AI), görevleri yerine getirmek ve insan zekâsını taklit eden topladıkları bilgilere göre yinelemeli olarak kendilerini iyileştirebilen sistemler veya makineler anlamına gelir Amazon Alexa gibi günlük yaşamımızda gördüklerimizden Google’ın aramalarımızı tahmin eden sistemine kadar pek çok farklı yapay zeka bulunuyor.
Bir yapay zeka uzmanı, acilen ilgilenilmesi gerekli bir soruna dikkatleri çekti. Leiden Üniversitesi’nden yapay zeka alanında yardımcı olan profesör Peter van der Putten, yapay zekada yer alan bir kusuru göz önüne sermiş bulundu.
Karar vermek genellikle karmaşık bir sürecin sonucu olarak gerçekleşir. Elde edilen tek bir çıktı (alınan karar) olmasına rağmen altta yatan farklı etmenler olabilir. Bu etmenleri değerlendirirken gözlemciler kendi deneyimlerine göre hareket ederler. İşe alım yapan bir kişinin adayları “Benimle aynı okuldan mı?” ya da “Kimler benim okulumdan değil?” diye ayırma yoluna gitmesi bir yanlılık göstergesidir.Ve buna benzer birçok deneyimler ve yanlılıklara örnek verebiliriz.
Van der Putten yapay zekaların kendi başlarına iyi ya da kötü olmadıklarını söyleyerek konuya dahil oluyor. Yine de insanların önyargılarını ve yanlılıklarını da bu sistemlerin kopyalayabileceğini ifade ediyor. Yapay zeka uzmanı verilerden dolayı da önyargıların hataların sistemlere aktarılabileceğini belirtiyor. Örnek vericek olursak insan kaynakları için geliştirilen bir yapay zekanın, kadınların yaşadığı mesleki yükselme sorunlarını önyargı olarak kopyaladığı ortaya çıkmıştı. Eğitilen yapay zeka, üst seviyelere denk adaylarla karşılaştığında kadın adayları reddetmeye yönelmişti.
Apple’ın kurucularından Steve Wozniak, algoritmaların kadınlara karşı önyargılar geliştirmiş olabileceğini dile getiren bir başka isim olmuştu. Firmanın kredi kartı da kredi özellikleri benzer olan kadın ve erkeklere farklı limitler sunmuştu.
Uzmanlara göre yapay zeka, onu kurarken kullanılan veri kadar yanlı ve önyargılı olabilmekte. Bunun önüne geçmek mümkün olmasada etkisini kontrol edilebilir tutmak mümkün olabiliyor.
