Teknoloji artık hayatımızın tam ortasında. Sabah uyandığımız andan gece uyuyana kadar farkında olsak da olmasak da algoritmalarla birlikte yaşıyoruz. Telefonumuzda hangi haberleri göreceğimizi, sosyal medyada hangi videoların karşımıza çıkacağını, internetten alışveriş yaparken hangi ürünlerin önerileceğini, hatta bankadan kredi çekip çekemeyeceğimizi bile çoğu zaman algoritmalar belirliyor.
Yapay zekâ ve algoritmalar hayatımızı kolaylaştırırken, beraberinde önemli soruları da gündeme getiriyor. En önemli sorulardan biri ise şu: Teknolojinin gelişmesini yavaşlatmadan, algoritmaları daha anlaşılır ve daha adil hale getirmek mümkün mü?
Bu sorunun cevabı aslında "evet". Ancak bunun için hem teknoloji şirketlerine hem devletlere hem de topluma önemli görevler düşüyor.
ALGORİTMALAR HAYATIMIZI NASIL ETKİLİYOR?
Eskiden birçok karar insan tarafından veriliyordu. Bugün ise bilgisayar sistemleri milyonlarca veriyi birkaç saniyede analiz ederek karar verebiliyor.
Örneğin;
Bir banka kredi başvurunuzu değerlendirirken,
Bir e-ticaret sitesi size ürün önerirken,
Bir hastane teşhis konusunda doktorlara destek verirken,
Bir belediye trafik yoğunluğunu planlarken,
Bir fabrika üretim programını hazırlarken,
Arka planda algoritmalar çalışıyor.
İşte bu nedenle algoritmaların doğru çalışması artık sadece teknoloji uzmanlarının değil, hepimizin meselesi haline geldi.
ANLAŞILMAYAN ALGORİTMA GÜVEN VERMEZ
Bir vatandaş düşünelim.
Bankaya kredi başvuruyor.
Sonuç: "Başvurunuz reddedildi."
Peki neden?
Geliri mi yetersiz?
Borcu mu fazla?
Sistemde hata mı var?
Yoksa algoritma yanlış mı değerlendirdi?
Kimse açıklamıyorsa insanlar doğal olarak güven duymuyor.
İnsanlar yalnızca kararın sonucunu değil, o sonuca nasıl ulaşıldığını da bilmek istiyor.
İşte buna "açıklanabilirlik" deniliyor.
Yani algoritmanın "neden bu kararı verdiğini" insanların anlayabileceği şekilde anlatabilmesi gerekiyor.
HIZLI OLMAK, ADALETLİ OLMAK ANLAMINA GELMEZ
Yapay zekâ çok hızlı çalışabilir.
Fakat hızlı çalışan her sistem doğru karar vermeyebilir.
Eğer kullanılan veriler eksik veya hatalıysa algoritmalar da yanlış sonuçlar üretebilir.
Örneğin geçmişte kadınların daha az işe alındığı bir sektörde eğitilen yapay zekâ, farkında olmadan erkek adayları daha avantajlı görebilir.
Benzer şekilde;
Yaş,
Engel durumu,
Bölge,
Gelir seviyesi,
Eğitim durumu,
Gibi özellikler nedeniyle bazı insanlar istemeden dezavantaj yaşayabilir.
Algoritmaların taraf tutması çoğu zaman bilinçli değildir.
Sorun, beslendiği verilerden kaynaklanır.
ADALET İÇİN TEMİZ VERİ ŞART
Eskilerin güzel bir sözü vardır:
"Yanlış hesap Bağdat'tan döner."
Bilgisayar dünyasında ise şöyle deniliyor:
"Çöp veri girersen, çöp sonuç alırsın."
Yani kötü veriyle iyi yapay zekâ üretmek mümkün değildir.
Bu nedenle algoritmalar geliştirilirken kullanılan verilerin;
Doğru,
Güncel,
Eksiksiz,
Çeşitli,
Önyargılardan arındırılmış
Olması büyük önem taşıyor.
Veri ne kadar kaliteli olursa, algoritmanın verdiği kararlar da o kadar güvenilir olur.
ŞEFFAFLIK GÜVENİ ARTIRIR
Şirketler çoğu zaman algoritmalarını ticari sır olarak görüyor.
Bu anlaşılabilir bir durum.
Ancak insanların hayatını doğrudan etkileyen sistemlerde belirli düzeyde şeffaflık sağlanması gerekiyor.
Kimsenin ticari sırrını açıklaması beklenmiyor.
Fakat en azından;
Hangi kriterlerin kullanıldığı,
Hangi verilerin değerlendirildiği,
Hangi durumlarda hata yapılabileceği,
İtiraz hakkının nasıl kullanılacağı
Vatandaş tarafından bilinmelidir.
Bu yaklaşım hem güveni artırır hem de olası mağduriyetleri azaltır.
İNSAN DENETİMİ HİÇBİR ZAMAN ORTADAN KALKMAMALI
Yapay zekâ ne kadar gelişirse gelişsin son söz her zaman insanda olmalıdır.
Özellikle;
Sağlık,
Hukuk,
Eğitim,
Sigortacılık,
Bankacılık,
Kamu hizmetleri
Gibi alanlarda yalnızca bilgisayarın verdiği karara bağlı kalmak doğru değildir.
İnsan gözü bazen makinenin göremediği ayrıntıları fark edebilir.
Bu nedenle uzman denetimi her zaman devam etmelidir.
DÜZENLİ DENETİM ŞART
Bir otomobil nasıl belirli aralıklarla bakıma giriyorsa algoritmalar da düzenli olarak kontrol edilmelidir.
Çünkü zaman içinde veriler değişebilir.
Toplum değişebilir.
Ekonomik şartlar değişebilir.
Dün doğru çalışan bir sistem bugün hata üretmeye başlayabilir.
Bu nedenle bağımsız denetimler büyük önem taşıyor.
Tarafsız uzmanlar algoritmaları düzenli olarak incelemeli ve olası adaletsizlikleri erkenden tespit etmelidir.
VATANDAŞIN İTİRAZ HAKKI OLMALI
Hiçbir sistem yüzde yüz kusursuz değildir.
Algoritmalar da hata yapabilir.
İşte bu nedenle vatandaşların verilen kararlara itiraz edebilmesi gerekiyor.
"Bilgisayar böyle karar verdi, yapacak bir şey yok."
Anlayışı kabul edilemez.
Vatandaşın sesini duyurabileceği, kararın yeniden değerlendirilebileceği mekanizmalar mutlaka kurulmalıdır.
EĞİTİM HER ŞEYİN TEMELİ
Yalnızca yazılım mühendislerinin değil, yöneticilerin, öğretmenlerin, hukukçuların, gazetecilerin ve vatandaşların da yapay zekâ konusunda temel bilgi sahibi olması gerekiyor.
Teknolojiyi anlayan toplumlar, teknolojiyi daha bilinçli kullanır.
Bilinç arttıkça yanlış bilgiler azalır.
Güven artar.
Sorunlar daha kolay çözülür.
GELECEĞİN ANAHTARI GÜVEN OLACAK
Önümüzdeki yıllarda yapay zekâ çok daha güçlü hale gelecek.
Akıllı şehirlerden sürücüsüz araçlara, dijital hastanelerden otomatik üretim tesislerine kadar hayatımızın her alanında algoritmalar daha fazla görev üstlenecek.
Ancak insanlar güvenmediği teknolojiyi benimsemez.
Bu nedenle geleceğin en değerli sermayesi yalnızca hızlı çalışan algoritmalar değil, güven veren algoritmalar olacaktır.
Teknolojik gelişmenin hızını kesmeden ilerlemek elbette mümkündür. Bunun yolu ise daha kaliteli veri kullanmaktan, algoritmaları düzenli olarak denetlemekten, karar süreçlerini mümkün olduğunca anlaşılır hale getirmekten ve insan denetimini hiçbir zaman tamamen devre dışı bırakmamaktan geçiyor.
Unutmayalım; teknoloji insan için vardır. Yapay zekâ ve algoritmalar da hayatımızı kolaylaştırdığı ölçüde değer kazanır. Gerçek başarı, sadece daha hızlı çalışan sistemler geliştirmek değil, aynı zamanda herkese eşit davranan, hakkaniyetli, güvenilir ve anlaşılabilir teknolojiler üretmektir. İşte o zaman hem teknoloji kazanacak hem ekonomi güçlenecek hem de toplum dijital dönüşüme daha büyük bir güvenle ayak uyduracaktır.
