ChatGPT geçen yıl başlatıldı. için bazı övgü dolu eleştiriler alırken, yapay zeka sohbet robotuinsan benzeri tepkiler verme yeteneği, diğerleri her ikisini de hedef alır AI’yı aç ve ChatGPT, onları önyargılı olmakla suçluyor. Şirket, ChatGPT’nin davranışının nasıl şekillendiğini ve şirketin ChatGPT’nin varsayılan davranışını nasıl iyileştirmeyi planladığını açıklayarak sorunu ele aldı.
Şirket, “ChatGPT’yi piyasaya sürmemizden bu yana, kullanıcılar siyasi olarak önyargılı, saldırgan veya başka bir şekilde sakıncalı buldukları çıktıları paylaştılar. Çoğu durumda, dile getirilen endişelerin geçerli olduğuna inanıyoruz ve ele almayı düşündüğümüz sistemlerimizin gerçek sınırlamalarını ortaya çıkardık” dedi. bir blog yazısında.
OpenAI ayrıca “ChatGPT’den elde ettiğiniz çıktıyı şekillendirmek için sistemlerimizin ve politikalarımızın birlikte nasıl çalıştığına dair birkaç yanlış anlama gördüğünü” söyledi.
“Önyargılar böcektir”
Blogda OpenAI, birçok kişinin yapay zeka sistemlerinin tasarımındaki ve etkisindeki önyargılardan haklı olarak endişe duyduğunu kabul etti. AI modelinin, ChatGPT gibi sistemleri kullanan veya bunlardan etkilenen halktan gelen mevcut veriler ve girdilerle eğitildiğini de sözlerine ekledi.
Girişim, “Kurallarımız, gözden geçirenlerin herhangi bir siyasi grubu desteklememesi gerektiği konusunda açık. Yine de yukarıda açıklanan süreçten doğabilecek önyargılar, özellikler değil, hatalardır” dedi. Şirketin, incelemeye açık politikalar üretmekten teknoloji şirketlerinin sorumlu olması gerektiğine inandığını söyleyerek devam etti.
Açıklamada, “Bu konuyu şiddetle ele almaya ve hem niyetlerimiz hem de ilerlememiz konusunda şeffaf olmaya kararlıyız” denildi.
OpenAI, bu yönergelerin netliğini artırmak için çalıştığını ve ChatGPT lansmanından çıkarılan derslerden yararlanarak, gözden geçirenlere önyargıyla ilgili olası tuzaklar ve zorlukların yanı sıra tartışmalı figürler ve temalar hakkında daha net talimatlar sağlayacağını söyledi.
OpenAI, şeffaflık girişimlerinin bir parçası olarak, gözden geçirenler hakkında toplu demografik bilgileri “gizlilik kurallarını ve standartlarını ihlal etmeyecek şekilde” paylaşmak için de çalışıyor çünkü bu, olası sistem çıktı yanlılığının ek bir kaynağı.
Şirket ayrıca uzlaşma sürecini daha anlaşılır ve yönetilebilir hale getirmenin yollarını araştırıyor.