Yapay zeka uzmanı ve teknoloji endüstrisi yöneticisi bin 100 kişi açık bir mektup yayınlayarak bütün yapay zeka laboratuvarlarının GPT-4’ten daha güçlü bir sistem üzerinde yürüttükleri çalışmaların altı ay süreyle durdurulması çağrısında bulundu.
Twitter’ın sahibi Elon Musk, Apple’ın kurucularından Steve Wosniak ve Center for Humane Technology (İnsancıl Teknoloji Merkezi) yöneticisi Tristan Harris’in de imzasının bulunduğu mektupta “Güçlü yapay zeka sistemleri, ancak etkilerinin olumlu ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir.” denildi.
Mektupta Meta ve Alphabet’in sahip olduğu DeepMind mühendislerinin yanı sıra, Stability AI tepe yöneticisi Emad Mostaque ile Yoshua Bengio ve Stuart Russell gibi yapay zeka uzmanlarının da imzasının bulunması dikkat çekti.
Öte yandan, ChatGPT’yi geliştiren Microsoft’un sahibi olduğu OpenAI’ın yöneticisi Sam Altman’ın mektuba imza vermediği görüldü. ChatGPT’nin yeni modeli GPT-4 yalnızca metin değil, görüntü ve metinden oluşan sorulara da yanıt verebiliyor.
Mektup, Future of Life Institute (Yaşamın Geleceği Enstitüsü) adlı bir sivil toplum kuruluşu tarafından yayınlandı. Avrupa Birliği’nin şeffaflık siciline göre, enstitü Musk Vakfı’nın yanı sıra Londra merkezli Founders Pledge ve Silikon Vadisi Toplum Vakfı tarafından finanse ediliyor.
Otomatik pilot sistemi için yapay zeka kullanan elektrikli araba üreticisi Tesla’nın sahibi Elon Musk, yapay zeka ile ilgili endişelerini sıklıkla dile getiriyor.
Mektupta ne deniyor?
Mektupta, yapay zeka laboratuvarlarının “hiç kimsenin, hatta yaratıcılarının bile anlayamadığı, tahmin edemediği ya da güvenilir bir şekilde kontrol edemediği, her zamankinden daha güçlü dijital zihinler geliştirmek ve konuşlandırmak için kontrolden çıkmış bir yarışa kilitlenmiş durumda.” denildi.
İnsanla rekabet etmek amacıyla geliştirilen yapay zeka sistemlerinin ekonomik ve siyasi bozulmalar şeklinde topluma ve uygarlığa yönelik potansiyel riskleri ayrıntılı olarak açıklayan mektupta şu ifadeler kullanıldı:
“Makinelerin bilgi kanallarımızı propaganda ve gerçek dışı bilgilerle doldurmasına izin vermeli miyiz? Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz? Eninde sonunda sayıca üstün, akıllı, modası geçmiş ve bizim yerimizi alabilecek insan olmayan zihinler mi geliştirmeliyiz? Uygarlığımızın kontrolünü kaybetme riskini göze almalı mıyız?”
Bu tür kararların seçilmemiş teknoloji liderlerine devredilmemesi gerektiğinin altını çizen mektupta hükümetlerin duruma müdahale etmesi çağrısında bulunuldu.
Mektupta bu tür tasarımlar için ortak güvenlik protokolleri geliştirilinceye, uygulanıncaya ve bağımsız uzmanlar tarafından denetleninceye kadar gelişmiş yapay zeka geliştirilmesine ara verilmesi istendi.
Uyarılar artıyor
Yapay zeka destekli arama ve yazışma botlarıyla ilgili uyarılar sürüyor.
Son olarak AB polis teşkilatı Europol ChatGPT gibi gelişmiş yapay zekaya ilişkin etik ve yasal kaygıları dile getirdi ve sistemin kimlik avı girişimleri, dezenformasyon ve siber suçlarda potansiyel kötüye kullanımı konusunda uyarıda bulundu.
İngiliz hükümeti de yapay zeka konusunda “uyarlanabilir” bir düzenleyici çerçeve için önerilerini açıkladı. Yeni yaklaşıma göre yapay zekayı yönetmek için teknolojiye adanmış yeni bir organ oluşturmak yerine, sorumluluk insan hakları, sağlık ve güvenlik ve rekabet düzenleyicileri arasında paylaştıracak.
