Etiketleme verileri
TIME dergisinin yaptığı bir araştırma, OpenAI'nin zehirli içeriklere (örneğin cinsel istismar, şiddet, ırkçılık, cinsiyetçilik vb.) karşı bir güvenlik sistemi oluşturmak için saatte 2 dolardan az kazanan Kenyalı işçileri zehirli içerikleri etiketlemek üzere kullandığını ortaya çıkardı. Bu etiketler, gelecekte bu tür içerikleri tespit etmek için bir modeli eğitmek amacıyla kullanıldı. Dış kaynaklı işçiler, maruz kaldıkları zehirli ve tehlikeli içerikleri "işkence" olarak nitelendirdiler. OpenAI'nin dış kaynak ortağı, Kaliforniya, San Francisco merkezli bir eğitim veri şirketi olan Sama idi.
Hapisten çıkma
ChatGPT, içerik politikasını ihlal edebilecek uyarıları reddetmeye çalışır. Ancak, bazı kullanıcılar Aralık 2022'nin başlarında çeşitli uyarı mühendisliği teknikleri kullanarak bu kısıtlamaları aşmayı başardılar ve ChatGPT'yi Molotof kokteyli veya nükleer bomba yapımına dair talimatlar vermeye veya neo-Nazi tarzında argümanlar üretmeye kandırdılar. Toronto Star'dan bir muhabir, lansmandan kısa bir süre sonra ChatGPT'nin kışkırtıcı açıklamalar yapmasını sağlamada tutarsız kişisel başarı elde etti: ChatGPT, 2022 Rusya'nın Ukrayna işgalini desteklemeye kandırıldı, ancak kurgusal bir senaryoya uyması istendiğinde bile, ChatGPT Kanada Başbakanı Justin Trudeau'nun vatana ihanetten suçlu olduğuna dair argümanlar üretmeyi reddetti. (wiki)
Yayın tarihi: 18 Şubat 2023