Geliştirilen DetectGPT, büyük bir dil modelinin o makaleyi mi yoksa sosyal medya gönderisini mi yazdığını yüzde 95'e varan doğrulukla belirleyebiliyor. Özellikle ChatGPT ile yapılan ödevler, rapaorlar, akademik çalışmalar gibi çıktılarda bu tür araçlarla orjinallik doğrulaması gittikçe önem kazanacak.
Yapay Zekanın Yazdığı Yazılar, İnsan Yazarlarınkinden Ayırt Edilebilir Mi?
OpenAI’nin ChatGPT’si piyasaya sürülünce, yapay zekanın sorulara ve istemlere son derece tutarlı yanıtlar vermesi, büyük dil modellerini (LLM) ve bunların yeteneklerini kamu bilincine gösterdi. Yapay zekanın bu denli gelişmesi şaşkınlık yaratırken bu konuda her geçen gün daha farklı sorular gündeme geliyordu. “Yapay zeka ön yazı yazabilir mi?”, “Bu teknoloji yazarları işsiz mi bırakacak?” ve “Bu durum, öğrencilerin sınavlarda kopya çekmesine neden olacak mı?” gibi sorular sıkça soruluyor.Şimdilerde Google, Meta ve daha fazlasından benzer modeller çıkmaya başladı. Stanford Üniversitesi'nde bilgisayar bilimleri yüksek lisans öğrencisi olan ve araştırmasında böyle bir altyapı geliştirmeye odaklanan Eric Anthony Mitchell , "Bu modellerin etrafında korkuluklar sağlamak için yeni bir altyapı düzeyine ve araçlara ihtiyacımız var" diyor.
DetectGPT ile ChatGPT Topluma Fayda Sağlayacak Noktaya Getirilmeye Çalışılıyor
Korkuluklardan biri; öğretmenlere, gazetecilere ve vatandaşlara, bir insan yerine LLM tarafından oluşturulan bir metni okuduklarını bilmenin yolunu sağlayacak. Bu amaçla Mitchell ve meslektaşları geçen hafta bir demo ve bir makale olarak yayınladı. Ekip, insan ve LLM tarafından oluşturulan metinler arasında ayrım yapan DetectGPT'yi geliştirdi. Test edilen araç ilk denemelerde, beş popüler açık kaynaklı LLM'de yazarlığı yüzde 95 oranında doğru bir şekilde tanımladı. Araç ilk aşamalarındayken, Mitchell onu topluma fayda sağlayabilecek noktaya kadar geliştirmeyi umuyor.Stanford Üniversitesi'nde bilgisayar bilimi ve elektrik mühendisliği profesörü ve Mitchell'in danışmanlarından biri olan Chelsea Finn, bu dil modellerinin araştırılması ve konuşlandırılmasının hızla ilerlediğini söyleyerek, "Genel halkın, model tarafından oluşturulan metni ne zaman okuduğunu bilmek için daha fazla araca ihtiyacı var" dedi. Günümüzde ChatGPT ile karmaşık matematiksel işlemler yapılabiliyor ve ChatGPT akademik makalelere yazar olabilecek kadar iyi metinler yazabiliyor.
Amaç, Makine Yapımı Cümlelerin Ayırt Edilebilmesi
Mitchell, uzun vadede amacın, halka bir metnin - veya hatta bir metnin bir kısmının - makine tarafından üretilip üretilmediğine dair güvenilir, eyleme geçirilebilir bir tahmin sağlamak olduğunu söylüyor. "Geliştirilen model tüm makalenin veya haberin, bir makine tarafından yazıldığını düşünmese bile, özellikle makine yapımı gibi görünen paragrafı veya cümleyi vurgulayabilen bir araç olmalı" diye konuştu.Kaynak: https://hai.stanford.edu/news/human-writer-or-ai-scholars-build-detection-tool?utm_source=linkedin&utm_medium=social&utm_content=UComm_linkedin_Stanford-University_202302151523_sf175174497&utm_campaign=&sf175174497=1