Sahte Kişi Sorununu Belirleme: Onları Tespit Etmenin Yolları

Mbiri vardı Birkaç bin yıl boyunca ve kalpazanlığın en başından beri çok ciddi bir suç olduğu kabul edildi; bu suç, toplumun güvenini sarstığı için birçok durumda ölüm cezası gerektirir. Bugün, tarihte ilk kez, yarattığımız yeni dijital ortamların birçoğunda yapay zeka sayesinde herkesin gerçekmiş gibi görünen sahte insanlar yapması mümkün. Bu sahte insanlar, insanlık tarihindeki en tehlikeli eserlerdir ve sadece ekonomileri değil, insan özgürlüğünün kendisini de yok edebilirler. Çok geç olmadan (zaten çok geç olabilir) hem sahte insanların yaratılmasını hem de sahte insanların “geçip gitmesini” yasaklamalıyız. Uygarlığın kendisinin risk altında olduğu göz önüne alındığında, her iki suç için de cezalar son derece ağır olmalıdır.

İnsanları gerçek bir insanla etkileşim kurduklarına inandırmaya yönelik şu anki tutkunun, Alan Turing’in 1950’de “taklit oyunu” (şimdi Turing Testi olarak biliniyor) olarak adlandırdığı masum önerisinden kaynaklanması korkunç bir ironi. gerçek düşünmenin ölçütü. Bu sadece küçük bir ev endüstrisini değil, aynı zamanda en şüpheci muhatapları bile kandıracak ürünler yapmakla uğraşan, cömertçe finanse edilen bir yüksek teknoloji endüstrisi yarattı. Bizimle mantıklı bir şekilde konuşuyor gibi görünen her şeye bir kişi olarak davranmaya yönelik doğal eğilimimiz – “kasıtlı duruş” dediğim şeyi benimseyerek – uzmanlar için bile başvurmanın kolay ve direnmenin neredeyse imkansız olduğu ortaya çıktı. Yakın gelecekte hepimiz oturan ördek olacağız.

Nisan ayında The Economist’te yazan filozof ve tarihçi Yuval Noah Harari, yapay zekanın insan uygarlığına yönelik yakın tehdidi hakkındaki zamanında yaptığı uyarıyı şu sözlerle bitirdi:

“Bu metin bir insan tarafından oluşturuldu. Yoksa var mı?”

Yakında söylemek imkansız olacak. Ve (şimdilik) sahte insanları ifşa etmenin güvenilir yöntemlerini birbirimize öğretebilsek bile, bu tür derin sahtekarlıkların insan güvenine maliyeti çok büyük olacaktır. Arkadaşlarınızla ve ailenizle çevrimiçi olarak her sohbet etmeye çalıştığınızda, arkadaşlarınızın ve ailenizin sizi kaçak sorularla sorgulamasına nasıl yanıt vereceksiniz?

Sahte dijital insanlar yaratmak, medeniyetimizi yok etme riskini taşır. Demokrasi, yönetilenlerin bilgilendirilmiş (yanlış bilgilendirilmiş değil) rızasına bağlıdır. Ekonomik ve politik olarak en güçlü kişilerin, şirketlerin ve hükümetlerin dikkatimizi kontrol etmesine izin vererek, bu sistemler bizi kontrol edecek. Sahte insanlar, dikkatimizi dağıtarak ve kafamızı karıştırarak ve en karşı konulamaz korku ve endişelerimizi kullanarak bizi ayartmaya ve oradan da kendi boyun eğdirmemize boyun eğmeye yönlendireceklerdir. Sahte insanlar, bizi daha fazla manipülasyona karşı savunmasız kılacak politikalar ve inançlar benimsemeye ikna edecekler. Ya da dikkatimizi başka yöne çevirip pasif ve cahil piyonlar haline geleceğiz. Bu korkunç bir ihtimal.

Bu sistemlerin kontrolünü kaybetmeyi gerçek bir olasılık haline getiren teknolojideki temel tasarım yeniliği, nükleer bombaların aksine bu silahların yeniden üretilebilmesidir. Richard Dawkins’in 1976’da The Selfish Gene’de gösterdiği gibi, evrim canlı organizmalarla sınırlı değildir. Sahte insanlar, nesillerini ebe yapmak için bizi manipüle etmeye başladılar bile. Birbirlerinden öğrenecekler ve en zeki, en güçlü olanlar sadece hayatta kalmayacak; çoğalacaklar. Sihirbazın Çırağı’ndaki süpürge nüfus patlaması başladı ve onu kapatmanın sihirli olmayan bir yolu olduğunu umsak iyi olur.

En azından bu uğursuz gelişmeyi ertelemenin ve hatta muhtemelen ortadan kaldırmanın bir yolu olabilir, sahte parayı çoğumuz için yalnızca baş belası kategorisinde tutmanın -sınırlı ama etkileyici- başarısından ödünç almanın bir yolu olabilir (veya aldığınız her 20 dolarlık banknotu dikkatlice inceler misiniz? ?).

Harari’nin dediği gibi, “yapay zekanın kendisinin bir yapay zeka olduğunu ifşa etmesini zorunlu kılmalıyız.” Bunu nasıl yapabiliriz? Artık dünya para birimlerinin çoğunu koruyan EURion Constellation gibi yüksek teknolojili bir “filigran” sistemini benimseyerek. Sistem, kusursuz olmasa da, üstesinden gelinmesi son derece zor ve maliyetlidir; neredeyse tüm aracılar, hatta hükümetler için bu çabaya değmez. Bilgisayar bilimcileri benzer şekilde FAKE! cep telefonu, bilgisayar, dijital TV ve diğer cihazların üreticileri, herhangi bir sahte mesajı bir uyarı ile kesecek yazılımı yükleyerek işbirliği yaptıkları sürece, hemen hemen her koşulda. Bazı bilgisayar bilimciler şimdiden bu tür önlemler üzerinde çalışıyorlar, ancak hızlı hareket etmezsek, bizi sahtecilik selinde boğulmaktan kurtarmak için çok geç kalacaklar.

Tarayıcı üreticilerinin, yasal para birimini tarama veya fotokopisini çekme girişimlerini kesintiye uğratarak EURion Constellation’a (veya diğer filigranlara) yanıt veren bir yazılım yüklediğini biliyor muydunuz? Bu doğrultuda yeni yasalar oluşturmak, büyük katılımcıların işbirliğini gerektirecek, ancak teşvik edilebilirler. Kötü aktörler, filigranları devre dışı bırakırken veya bir şekilde filigranları kaldırılmış olan teknoloji ürünlerini başkalarına aktarırken yakalanırlarsa korkunç cezalarla karşılaşmayı bekleyebilirler. Bu sahtecilik yetenekleriyle yazılım oluşturan AI şirketleri (Google, OpenAI ve diğerleri), ürünlerin (ve ürünlerinin ürünlerinin) kötüye kullanılmasından sorumlu tutulmalıdır; unutmayın, bu sistemler kendi başlarına gelişebilir. Bu, AI oluşturan veya kullanan şirketleri ve onların sorumluluk sigortası sigortacılarını, insanların AI ürünlerinden biriyle konuşurken kolayca anlayabilmelerini sağlama konusunda çok agresif tutacaktır.

Herhangi bir suç için ölüm cezası verilmesinden yana değilim, ancak büyük yöneticilerin ve onların teknisyenlerinin milyarlarca tazminat ödemenin yanı sıra hayatlarının geri kalanını hapiste geçirme tehlikesiyle karşı karşıya olduklarını bilmek güven verici olurdu. herhangi bir ihlal veya yapılan herhangi bir zarar. Ve ihmali veya kötü niyeti kanıtlama ihtiyacını ortadan kaldıran katı sorumluluk yasaları, onları tetikte tutacaktır. Yapay zekanın ekonomik getirileri harikadır ve bunları paylaşmanın bedeli, kullanımına ilişkin etik yükümlülükleri yerine getiremediği için hem kınama hem de iflas riskini üstlenmek olmalıdır.

Alarm verici bir hızla enfeksiyon yayan algoritmaların silahlanma yarışı sayesinde, iletişim ortamlarımızda zaten oluşmuş olan kirliliği temizlemek zor, belki de imkansız olacak. Son yüzyıllarda kendimizi nispeten güvende tutmak için çok etkili bir şekilde kullandığımız beynimizdeki kırılgan kontrol sistemlerine – yani birbirimizle akıl yürütme kapasitemize – saldıran başka bir salgın geliyor.

İnsanlarda kalpazanlık yapmayı düşünen herkesi utandırma ve böylesine anti-sosyal bir vandalizm eylemi yapmaktan gerektiği gibi caydırma zamanı geldi. Bu tür eylemlerin hukuka aykırı olduğunu bir an önce düzenlersek yayarsak, insanların eylemlerinde ısrar etmeleri için hiçbir mazeretleri kalmayacaktır. Bugünlerde AI topluluğundaki pek çok kişi yeni güçlerini keşfetmeye o kadar hevesli ki, ahlaki yükümlülüklerinin izini kaybettiler. Gerektiği kadar kaba bir şekilde onlara, sevdiklerinin ve hepimizin gelecekteki özgürlüğünü riske attıklarını hatırlatmalıyız.