Kullanıcılara açık bir “notta” ChatGPT oluşturucu AI’yı aç AI aracının bazı çıktılarının ChatGPT politik olarak önyargılı, saldırgan veya başka bir şekilde sakıncalı olarak etiketlendi. Şirket, bu içeriğin bir kısmının sistemin sınırlamalarını göstermekle suçlandığını kabul ederken söyledi. Aynı zamanda, tüm iddiaların tamamen doğru olmadığını vurguladı. Birçoğu, kullanıcıların ChatGPT çıktısı sağlamak için sistemlerin ve politikaların nasıl çalıştığına dair yanlış kanılarını gösteriyor.
“ChatGPT’yi piyasaya sürmemizden bu yana, kullanıcılar siyasi olarak önyargılı, saldırgan veya başka bir şekilde sakıncalı buldukları çıktıları paylaştılar. Çoğu durumda, dile getirilen endişelerin haklı olduğuna ve sistemlerimizin ele almak istediğimiz gerçek sınırlamalarını ortaya çıkardığına inanıyoruz. Ayrıca, ChatGPT’den elde ettiğiniz sonuçları şekillendirmek için sistemlerimizin ve politikalarımızın birlikte nasıl çalıştığına dair bazı yanlış anlamalar gördük.”
Açıklamada şöyle devam edildi: “Misyonumuzu sürdürürken, AI ve AGI’ya erişimin, bunlardan yararlanmanın ve bunlar üzerindeki etkinin yaygın olmasını sağlamaya kararlıyız. AI sistem davranışı bağlamı.” Şirket daha sonra bu yapı taşlarını tartışıyor:
‘Üç yapı taşı’
Varsayılan davranışı iyileştirmek için: OpenAI, ChatGPT’nin farklı girdilere nasıl yanıt verdiğine ilişkin hem bariz hem de ince önyargıları azaltmak için araştırma ve mühendisliğe yatırım yaptığını söylüyor.
Soruşturma, ChatGPT’nin vermemesi gereken çıktıları vermeyi reddettiği durumları ve olması gerektiği halde reddetmediği durumları da kapsayacaktır. Başlangıç ayrıca, daha fazla iyileştirme yapmak için “paha biçilmez kullanıcı geri bildirimi” ihtiyacını vurguladı.
AI değerlerini tanımlayın: Şirket, kullanıcıların “toplum tarafından tanımlanan” davranışları kolayca özelleştirmesine olanak tanıyan bir ChatGPT yükseltmesi geliştiriyor.
“Bu, diğer insanların (biz dahil) kesinlikle aynı fikirde olmadığı sistem çıktılarına izin vermemiz gerektiği anlamına geliyor. Burada doğru dengeyi bulmak zor olacak – özelleştirmeyi en uç noktalara götürmek, teknolojimizin ve dalkavuk yapay zekaların kötü niyetli kullanımına olanak sağlama riski taşıyor. İnsanların var olan inançlarını akılsızca pekiştiriyor” denildi.
Varsayılanlara genel giriş: OpenAI, sistem davranışı, ifşa mekanizmaları (filigranlar gibi) ve daha geniş dağıtım politikaları gibi konularda halkın görüşlerini almak için pilot projelerin ilk aşamalarında olduğunu söyledi.
Güvenlik ve politika çabalarımızın dış denetimlerini yapmak için üçüncü taraf kuruluşlarla ortaklıklar da araştırıyoruz” dedi.