Uzmanlardan Meclis’te Kritik Yapay Zeka Uyarısı

Uzmanlardan Meclis’te Kritik Yapay Zeka Uyarısı

TBMM Yapay Zeka Araştırma Komisyonu toplantısında, ABD merkezli Yapay Zeka ve Dijital Politika Merkezi Başkanı Merve Hickok, yapay zeka sistemlerinin olumsuz etkileri hakkında önemli uyarılarda bulundu. Hickok, yapay zekanın, kadınlar, yaşlılar, engelliler, etnik ve dini azınlıklar gibi gruplara karşı daha önyargılı ve negatif kararlar verdiğini belirtti. Ayrıca, yüz tanıma sistemlerinin koyu tenli insanlar için büyük hatalar yapmaya eğilimli olduğunu ve bunun güvenlik kuvvetleri tarafından yanlış anlaşılmasının, haksız tutuklamalara yol açabileceğini ifade etti.

Yapay Zeka ve İnsan Hakları:

Hickok, yapay zeka sistemlerinin insanlar üzerinde ciddi etkiler yarattığını vurguladı. Örneğin, Hollanda Vergi Kurumu tarafından kullanılan bir algoritma, yanlışlıkla binlerce insanı vergi kaçakçısı olarak işaretlemişti ve bunun sonucu olarak birçok insanın hayatı altüst olmuştu. Benzer sorunlar, ABD, Avustralya, İsveç ve Fransa gibi ülkelerde de görülüyor. Hickok, bu tür olumsuzlukların, devletlerin kullandığı yapay zeka sistemlerinin doğru bir şekilde denetlenmesi gerektiğini gösterdiğini belirtti.

Yapay Zeka ve Bilinç:

Hickok, üretken yapay zeka sistemlerine dair de önemli bir noktaya değindi. Özellikle ChatGPT gibi sistemlerin, sorulara verdiği cevapların, bilinçli bir anlayışa dayalı olmadığını, sadece bir sonraki kelimeyi tahmin ederek hızlıca cevap oluşturduğunu belirtti. Yapay zekanın, şu andaki teknolojik yaklaşımlarla bilinç geliştiremeyeceğini söyleyen Hickok, bu sistemlerin yüksek kapasiteye sahip olsa da, insan benzeri bir anlam veya sorumluluk anlayışına sahip olmadığını vurguladı.

Yapay Zeka Sistemlerinin Yasaklanması:

Hickok, bazı yapay zeka uygulamalarının yasaklanması gerektiğini ifade etti. Özellikle Çin’in Uygur vatandaşları üzerinde kullandığı “biyometrik kategorilendirme” sistemleri ile ilgili endişelerini dile getirdi. Bu tür sistemlerin, yüz ve hareket verilerini analiz ederek, kişilerin etnik kimliklerini, politik görüşlerini ve potansiyel tehlikelerini değerlendirdiğini belirtti. Aynı şekilde, “duygu analizi” gibi yüzeysel ve bilimsel olmayan sistemlerin de yasaklanması gerektiğini söyledi. Avrupa Birliği’nin ve Birleşmiş Milletler Eğitim, Bilim ve Kültür Teşkilatı (UNESCO) gibi uluslararası kuruluşların bu tür sistemleri yasaklamaya yönelik adımlar attığını belirten Hickok, dünyanın genelinde yapay zekanın kötüye kullanımına karşı daha fazla ortak anlayış oluştuğunu ifade etti.

Merve Hickok’un uyarıları, yapay zekanın potansiyel zararlarına dikkat çekiyor. Özellikle insan hakları, güvenlik ve etnik/dini gruplara karşı önyargılı uygulamalara karşı daha sıkı denetimler ve yasaklar getirilmesi gerektiği önemle vurgulanmaktadır.