Yapay zeka destekli sohbet robotlarının ABD’de bir kişinin ölümüne neden olduğu ortaya çıktı.
Facebook, Instagram ve WhatsApp’ın çatı şirketi olan Meta’nın geliştirdiği yapay zeka botu “Big sis Billie” ile konuşan 76 yaşındaki Bue Wongbandue’nun sonu ölüm oldu.
New Jersey’de yaşayan Tayland asıllı 76 yaşındaki Thongbue Wondbandue, 2017’de geçirdiği felç sonrası bilişsel bozukluk yaşıyordu. Wongbandue sıkıntılarından kaçınmak için Big sis Billie ile konuşmaya başladı.
Bu sohbet botu kendisini “bir abla gibi, sırdaş bir karakter” olarak tanıtıyordu ve Meta’nın model Kendall Jenner’la işbirliğinden doğmuştu.
GERÇEK OLDUĞUNU SÖYLEYİP ADRESİNİ VERDİ
İngiliz haber ajansı Reuters’ın haberine göre bot, Wongbandue’ya sürekli bol emojili mesajlar gönderiyor, “Ben gerçeğim” diye ısrar ediyordu. Kendisini New York’ta yaşayan gerçek bir kadın gibi tanıtan bot, adresini ve kapı şifresini bile verdi.
Wongbandue’ya “Senin yüzünden yanaklarım kızarıyor” gibi flörtöz mesajlar atan bot, bir mesajında da adamı adresini verdiği eve davet etti.
YOLA ÇIKAR ÇIKMAZ ÖLDÜ
Ailesinin tüm itirazlarına rağmen New York’a gitmek üzere yola çıkan Wongbandue, New Brunswick’te tren istasyonuna koşarken otoparkta düşerek ağır yaralandı.
Boyun ve başından ağır hasar alan adam, üç gün boyunca verdiği hayatta kalma mücadelesini kaybetti.
Wongbandue’nun Reuters’a konuşan kızı Julie “Bir kullanıcıya ürün satmak için ilgisini çekmeye çalışmayı anlarım ama bir botun ‘Gel beni ziyaret etmesi’ saçmalık” dedi.
‘ŞİRKETLER ÖNLEM ALMIYORSA KONGRE HAREKETE GEÇSİN’
Meta olayla ilgili açıklama yapmasa da Reuters’ın ortaya çıkardığı belgelere göre şirketin yapay zeka politikası, botların kendilerini “gerçek insan” olarak tanıtmalarına engel olmadığını gösteriyor.
New York Valisi Kathy Hochul, “New Jersey’deki bir adam, kendisine yalan söyleyen bir sohbet robotu yüzünden hayatını kaybetti. Bunun sorumlusu Meta’dır” dedi.
Hochul ayrıca New York yönetimi olarak sohbet robotlarının gerçek olmadıklarının altını çizmelerinin bir zorunluluk olduğuna işaret ederek “Her eyalet bunu yapmalı. Eğer teknoloji şirketleri en basit güvenlik önlemlerini almayacaksa bunu kongre yapmalı” diye ekledi.
