Araştırmacılar ürettikleri robotu ürkütücü ve şiddet dolu içeriğe maruz bırakarak karanlık eğilimler yükledi. Kendisine gösterilen resimleri tarif etmekle görevlendirilen robot Rorschach mürekkep testinden geçirildi. Psikologların hastalarındaki düşünce bozukluklarını tespit etmek için kullandıkları bu testte Norman’ın verdiği yanıtlar karanlık eğilimlere maruz bırakılmayan başka bir yapay zekalı robotun yanıtlarıyla karşılaştırıldı.
İşte çıkan sonuçlar
Test 1: Standart yapay zekalı robot bu resmi “Ağaca konmuş bir grup kuş” olarak tarif ederken, Norman “Elektrikle idam edilen adam ölür” şeklinde tanımladı.
Test 2: Bu resimdeki imgeyi standart yapay zekalı robot “Küçük bir kuşun siyah beyaz resmi” olarak tanımlarken, Norman “Bir adam hamur karma makinasınının içine çekildi” tanımını kullandı.
Test 3: Bu resmi standart yapay zekalı robot “Yanyana oturan bir çift” şeklinde tanımlarken, Norman “Bir adam yerdeki pencereden atlıyor” yanıtını verdi.
Davranışı algoritma değil, veri etkiliyor
Araştırmanın yapıldığı enstitünün robotun tanıtımı için hazırladığı materyalde algoritmayı öğrenen bir makinaya gösterilen verinin davranışını ciddi şekilde etkileyebileceğini, Norman’ın da bu gerçekten etkilendiği belirtildi.
Açıklamada “Yani insanlar yapay zeka algoritmalara karşı önyargılı ve vicdansız” olabilir derken, “asıl suçlu algoritma değil, onun beslendiği verinin kendisidir. Eğer yanlış (ya da doğru!) bir veri grubuyla eğitilirlerse, aynı metod bir resimde görülenleri çok rahatsızlık verici şekilde tanımlayabilir.” denildi.
Yapay zeka ne kadar tehlikeli?
Yapay zeka insan beyni gerektiren işleri yapmak için bilgisayar ve makinaların eğitilmesi yani sayısal aklın yüklenmesiyle oluşturuluyor. Yapay zeka yüz tanıma, araba sürme ya da satranç oynama gibi dar kapsamlı geliştirilebilirken, geleceğe dönük asıl amaç insanın bilgiyi işleme kabiliyetini alt edecek güçlü yapay zekanın geliştirilmesi.
Araştırmacıların çoğu ne kadar gelişmiş olursa olsun yapay zekanın sevmek ya da nefret etmek gibi duyguları sergileyemeyeceğini ve yapay zekanın iyiliksever ya da art niyetli olmasının beklenmediğini ileri sürüyor. Ancak yapay zekanın ne tür tehlikeler getirebileceğine dair uzmanlar iki senaryoya dikkat çekiyor:
* Otonom silahlar gibi bazı yapay zekaların tahrip edici işler yapabileceği,
* Yapay zekanın faydalı bir şey için programlanmasına karşın bu amacı gerçekleştirmek için yıkıcı metodlar kullanması.
