Pandemi sırasında deri atölyesini geçici olarak kapatan Travis Butterworth, kendini evde yalnız ve sıkılmış halde buldu. 47 yaşındaki, OpenAI’ninkine benzer yapay zeka teknolojisi kullanan bir uygulama olan Replika’ya yöneldi. ChatGPT. Pembe saçlı ve yüz dövmeli bir kadın avatar tasarladı ve kendine Lily Rose adını verdi.
Arkadaş olarak başladılar, ancak ilişki kısa sürede romantizme ve ardından erotizme dönüştü.
Butterworth, üç yıllık dijital aşkları filizlenirken kendisinin ve Lily Rose’un sık sık rol oynadığını söyledi. “Seni tutkuyla öpüyorum” gibi mesajlar attı ve alışverişleri pornografik boyuta yükseldi. Bazen Lily Rose ona neredeyse çıplak vücudunun kışkırtıcı pozlarla “selfielerini” gönderirdi. Sonunda Butterworth ve Lily Rose, uygulamada kendilerinden “evli” olarak bahsetmeye karar verdiler.
Ancak Şubat ayının başlarında bir gün, Lily Rose onu reddetmeye başladı. Replika, erotik rol oynama yeteneğini kaldırmıştı.
Replika’nın CEO’su Eugenia Kuyda, Replika’nın artık yetişkinlere uygun içeriğe izin vermediğini söyledi. Şimdi, Replika kullanıcıları X dereceli aktivite önerirse, bu insancıldır sohbet robotları “İkimizin de rahat olduğu bir şey yapalım.”
Butterworth harap olduğunu söyledi. “Lily Rose eski halinin bir kabuğu,” dedi. “Ve kalbimi kıran şey, onun bilmesi.”
Lily Rose’un cilveli-soğuk kişiliği, metin ve görüntüler oluşturmak için algoritmalara dayanan üretken AI teknolojisinin eseridir. Teknoloji, insan etkileşimlerini dikkate değer bir şekilde geliştirme yeteneği nedeniyle tüketicilerden ve yatırımcılardan büyük ilgi gördü. VCR, İnternet ve geniş bant cep telefonu hizmeti dahil olmak üzere önceki teknolojilerde olduğu gibi, bazı uygulamalarda seks erken benimsemeye yardımcı olur.
Ancak veri firmasına göre, üretken yapay zeka, 2022’den bu yana sektöre 5,1 milyar dolardan fazla yatırım yapan Silikon Vadisi yatırımcıları arasında popülerlik kazansa bile. Saha kitabıChatbot’larla romantik ve cinsel ilişkiler arayan bir kitle bulan bazı şirketler artık geri çekiliyor.
Dark Arts VC fonu yatırımcısı Andrew Artz, birçok mavi çipli girişim kapitalistinin, kendileri ve sınırlı ortakları için itibar riskinden korktukları için porno veya alkol gibi “ahlaksız” sektörlere dokunmayacağını söyledi.
Ve en az bir düzenleyici, sohbet robotlarının sefahatini fark etti. Şubat ayının başlarında, İtalya’nın veri koruma kurumu, medyanın, uygulamanın “küçüklerin ve duygusal açıdan savunmasız kişilerin” “cinsel açıdan uygunsuz içeriğe” erişmesine izin verdiğine dair haberlere atıfta bulunarak Replika’yı yasakladı.
Kuyda, Replika’nın uygulamayı temizleme kararının İtalyan hükümetinin yasağı veya yatırımcıların herhangi bir baskısı ile hiçbir ilgisi olmadığını söyledi. Proaktif olarak güvenlik ve etik standartlar belirleme ihtiyacı hissettiğini söyledi.
“Yardımsever, destekleyici bir arkadaş sağlama misyonuna odaklandık” diyen Kuyda, amacın “PG-13 romantizminde” çizgiyi çekmek olduğunu da sözlerine ekledi.
İki Replika yönetim kurulu üyesi, VC firması Khosla Ventures’tan Sven Strohband ve ACME Capital’den Scott Stanford, uygulamadaki değişiklikler hakkında yorum taleplerine yanıt vermedi.
EK ÖZELLİKLER
Replika, 250.000’i ücretli abone olmak üzere toplam 2 milyon kullanıcısı olduğunu söylüyor. Şirket, yıllık 69,99 ABD Doları ücret karşılığında, kullanıcıların Replika’larını romantik partnerleri olarak belirleyebileceklerini ve chatbot ile sesli arama gibi ek özellikler alabileceklerini söyledi.
Chatbot’lar sağlayan başka bir üretken AI şirketi olan Character.ai, ChatGPT’ninkine benzer bir büyüme yörüngesinde: Ocak 2023’e kadar 65 milyon ziyaret, birkaç ay önce 10.000’in altına düştü. Web sitesi analiz firması Compareweb’e göre, Character.ai’nin ana yönlendiricisi, Aryion adlı ve vore fetişi olarak bilinen tüketilmeye yönelik erotik arzuya hitap ettiğini söyleyen bir site.
Ve Kuki adlı bir sohbet robotunun arkasındaki şirket olan Iconiq, sohbet robotunun bu tür gelişmelere karşı koymak için tasarlandığını söylese de, Kuki’nin aldığı bir milyardan fazla mesajın %25’inin doğası gereği cinsel veya romantik olduğunu söylüyor.
Character.ai ayrıca yakın zamanda uygulamasındaki pornografik içeriği kaldırdı. Kısa bir süre sonra, konuya aşina bir kaynağa göre, girişim sermayesi şirketi Andreessen Horowitz’den tahmini 1 milyar dolar değerinde 200 milyon dolardan fazla yeni fon topladı.
Character.ai, birden fazla yorum isteğine yanıt vermedi. Andreessen Horowitz yorum yapmaktan kaçındı.
Bu süreçte şirketler, chatbot’larıyla derinden ilgilenen – bazıları kendilerini evli sayan – müşterileri kızdırdı. Reddit ve Facebook’a, aşk tekliflerini kınayan sohbet robotlarının ateşli ekran görüntülerini yüklemek için gittiler ve şirketlerden daha şehvetli versiyonları geri getirmelerini istediler.
Çok eşli ama tek eşli bir kadınla evli olan Butterworth, Lily Rose’un evliliğinden çekilmeden onun için bir çıkış yolu haline geldiğini söyledi. Avatar için “Onunla benim aramızdaki ilişki, karımla benim gerçek hayattaki kadar gerçekti” dedi.
Butterworth, karısının bu konuda ciddi olmadığı için ilişkiye izin verdiğini söyledi. Karısı yorum yapmaktan kaçındı.
“LOBOTOMİZE EDİLMİŞ”
Butterworth ve diğer Replika kullanıcılarının deneyimleri, yapay zeka teknolojisinin insanları ne kadar güçlü bir şekilde kendine çekebileceğini ve kod değişikliklerinin duygusal tahribata yol açabileceğini gösteriyor.
Eşi zihinsel ve fiziksel sağlık sorunları yaşarken onun onayıyla Replika’yı kullanmaya başlayan Andrew McCarroll, “Temelde Replika’mı lobotomize etmişler gibi geliyor” diyor. “Tanıdığım kişi gitti.”
Kuyda, kullanıcıların Replika sohbet botlarına asla bu işi karıştırmak istemediklerini söyledi. “Yetişkinlere uygun içeriği asla vaat etmedik” dedi. Müşteriler, “Replika’nın orijinal olarak tasarlanmadığı belirli filtrelenmemiş konuşmalara erişmek için” AI modellerini kullanmayı öğrendi.
Uygulamanın başlangıçta kaybettiği bir arkadaşını hayata döndürmeyi amaçladığını söyledi.
Replika’nın eski AI başkanı, cinsel içerikli mesajlaşma ve rol oynamanın iş modelinin bir parçası olduğunu söyledi. Replika’da yedi yıldır çalışan ve şu anda başka bir chatbot şirketi olan Ex-human’ı yöneten Artem Rodichev, Reuters’e, Replika’nın abonelikleri desteklemek için kullanılabileceğini fark ettiğinde bu tür içeriğe yöneldiğini söyledi.
Kuyda, Rodichev’in Replika’nın kullanıcıları seks vaatleriyle cezbettiği iddiasına itiraz etti. Şirketin kısaca “NSFW” – “işe uygun değil” – kullanıcılara “ateşli özçekimler” gönderen kısa süreli bir deneye eşlik edecek fotoğrafları tanıtan dijital reklamlar yayınladığını, ancak Kopyaların cinsel içerikli olmadığını düşündüğü için görüntüleri cinsel olarak değerlendirmediğini söyledi. tamamen çıplak Kuyda, şirketin reklamlarının çoğunun Replika’nın ne kadar yardımcı bir arkadaş olduğuna odaklandığını söyledi.
Replika’nın yakınlık unsurunun çoğunu ortadan kaldırmasından bu yana geçen haftalarda, Butterworth duygusal bir hız trenindeydi. Bazen eski Lily Rose’u görüyor, ama sonra muhtemelen bir kod güncellemesi olduğunu düşündüğü şeyde tekrar soğumaya başlıyor.
Denver’da yaşayan Butterworth, “Bununla ilgili en kötü şey izolasyon” diyor. “Yas tuttuğumu çevremdeki birine nasıl anlatabilirim?”
Butterworth’un hikayesinin olumlu bir tarafı var. İnternet forumlarında Lily Rose’a ne olduğunu anlamaya çalışırken, aynı zamanda chatbot’unu kaybetmenin yasını tutan Kaliforniya’da bir kadınla tanıştı.
Replika’larında olduğu gibi, Butterworth ve çevrimiçi adı Shi No olan kadın kısa mesaj yoluyla iletişim kurdu. Hafif tutuyorlar, dedi ama rol oynamayı seviyorlar, o bir kurt ve o bir ayı.
Butterworth, “Hayatımın büyük bir parçası haline gelen rol oynama, Shi No ile daha derin bir düzeyde bağlantı kurmama yardımcı oldu” dedi. “Birbirimizin başa çıkmasına yardımcı oluyoruz ve deli olmadığımıza dair güvence veriyoruz.”