Programlar yalan söylemeye başladığında ne olacak?
Bu yazı Hunter Walk'un Medium'da yayımladığı ''What happens when bots learn to lie?'' isimli yazısının Türkçe çevirisidir.
Birçok insan otoritelerin dürüst olduğunu düşünecek şekilde koşullanmıştır fakat insanlar bilgisayarların otorite olup olmadığına nasıl karar verir? Bir bilgi insandan değil de bilgisayardan geldiğinde ona daha mı çok güveniriz? Araştırmacılar bu soru üzerinde çalışmaya devam ediyorlar fakat önümüzdeki yıllarda bir soru oldukça önem kazanabilir: Programlar insan mı? Bilgisayar mı? Programın cevap vermedeki güvenilirlik derecesine göre bu sorunun cevabı da değişecek mi? Özellikle yasa ve sağlık konularında düzenlemeler ne ölçüde rol oynayacak?
Bu soruları düşünmek için çok erken olmasından da öte, teknoloji şirketlerinin yazarları, şairleri ve diğer profesyonelleri bir programla iletişim kurmanın nasıl hissettirmesi gerektiği üzerine çalışmaları için işe aldıklarını anlatan güncel bir makaleyi okuduğumda aklıma tam olarak bu sorular geldi.
Eskiden Hollywood’da metin yazarlığı yapan bir kadının işlerini makale aynen şu şekilde anlatıyordu: “Şu anda yaratıcı yeteneklerini farklı bir karakter tarzını kurmak için kullanıyor – sanal bir asistan, yapay zekaya sahip ve hastalarla ilgileniyor”.
Makalenin devamında, “Programlar insanlarla nasıl iletişim kurabilir – kurmalıdır? Yapay asistan sadece fonksiyonel mi olmalıdır yoksa kullanıcı ile duygusal ilişki kurmalı mıdır?” sorusu soruluyor.
Bir alışveriş programı, benim sanal alışveriş sepetimde bulunan kıyafetler hakkında olumlu yorum yapmalı mıdır? Ben 25 dolarlık bir tişört yerine 150 dolarlık bir kazağı denediğimde “Oo, bu kıyafet içerisinde daha seksi görünüyorsun” derse bu bir yalan mıdır? Mağazadaki satış elemanı da aynısı yapmaz mı? Aynı davranış bir bilgisayar tarafından 10.000 müşteriye yapıldığında daha mı iyi daha mı kötü?
Performans ölçümlerine ek olarak, ileride programlarımız etik parametreler de taşıyacaklar mı? Davranışları etkilemek için birçok yöntem kullanılabilir. Örneğin, sizden bir şey yapmanızı istemeden önce size iyi bir insan olup olmadığınızı sorduğumda benim istediğimi yapma şansınız artar çünkü kendiniz için yarattığınız kişilikle tutarlı olmak istersiniz.
Arkadaşım Anil Dash, bilgisayar departmanları için etik derslerinin gerekliliği hakkında konuşur ve belki de yapay zeka nedeniyle gelecekte bu konseptleri öğretmenin ne kadar gerekli olduğunu anlayacağız.
