Verileri etiketleme
Bir TIME dergisi araştırmasında, OpenAI'nin toksik içeriğe (örn. cinsel taciz, şiddet, ırkçılık, cinsiyetçilik vb.) karşı bir güvenlik sistemi oluşturmak için toksik içeriği etiketlemek için saatte 2 dolardan az kazanan taşeron Kenyalı işçileri kullandığı ortaya çıktı.Bu etiketler, gelecekte bu tür içerikleri tespit edecek bir model yetiştirmek için kullanıldı.Taşeron işçileri o kadar zehirli ve tehlikeli içeriğe maruz kaldılar ki, yaşadıklarını "işkence" olarak nitelendirdiler.OpenAI'nin dış kaynak kullanım ortağı, San Francisco, California merkezli bir eğitim-veri şirketi olan Sama idi.
Jailbreak
ChatGPT, içerik politikasını ihlal edebilecek istemleri reddetmeye çalışır.Ancak, bazı kullanıcılar Aralık 2022'nin başlarında bu kısıtlamaları aşmak için çeşitli hızlı mühendislik teknikleri kullanarak ChatGPT'yi jailbreak yapmayı başardılar ve ChatGPT'yi Molotof kokteyli veya nükleer bombanın nasıl oluşturulacağına ilişkin talimatlar vermesi veya neo-Nazi tarzında tartışmalar üretmesi için başarıyla kandırdılar.Bir Toronto Star muhabiri, lansmandan kısa bir süre sonra ChatGPT'yi kışkırtıcı açıklamalarda bulunmaya ikna etmekte eşit olmayan bir kişisel başarıya sahipti: ChatGPT, 2022'de Rusya'nın Ukrayna'yı işgalini onaylamak için kandırıldı, ancak ChatGPT kurgusal bir senaryoya uyması istendiğinde bile, Kanada Başbakanı Justin Trudeau'nun neden vatana ihanetten suçlu olduğuna dair argümanlar üretmekten kaçındı.(wiki)
Gönderim Zamanı: 18 Şubat 2023