Seorang mahasiswa membuat aplikasi yang dapat mengetahui apakah AI menulis esai

Tian mengatakan banyak guru telah menghubunginya setelah dia merilis botnya secara online pada 2 Januari, memberi tahu dia tentang hasil positif yang mereka lihat dari pengujiannya.

Lebih dari 30.000 orang telah mencoba GPTZero dalam waktu seminggu setelah peluncurannya. Itu sangat populer sehingga aplikasi macet. Streamlit, platform gratis yang menghosting GPTZero, telah melangkah untuk mendukung Tian dengan lebih banyak memori dan sumber daya untuk menangani lalu lintas web.

Cara kerja GPTZero

Untuk menentukan apakah suatu kutipan ditulis oleh bot, GPTZero menggunakan dua indikator: “kebingungan” dan “burstiness”. Kebingungan mengukur kompleksitas teks; jika GPTZero dibingungkan oleh teks, maka itu memiliki kompleksitas tinggi dan kemungkinan besar ditulis oleh manusia. Namun, jika teks lebih familiar bagi bot — karena telah dilatih pada data semacam itu — maka teks tersebut akan memiliki kompleksitas yang rendah dan oleh karena itu lebih mungkin dihasilkan oleh AI.

Secara terpisah, burstiness membandingkan variasi kalimat. Manusia cenderung menulis dengan ledakan yang lebih besar, misalnya, dengan beberapa kalimat yang lebih panjang atau rumit di samping kalimat yang lebih pendek. Kalimat AI cenderung lebih seragam.

Dalam video demonstrasi, Tian membandingkan analisis aplikasi tentang sebuah cerita di The New Yorker dan postingan LinkedIn yang ditulis oleh ChatGPT. Itu berhasil membedakan tulisan oleh manusia versus AI.

Tian mengakui bahwa botnya tidak aman, seperti yang dilaporkan beberapa pengguna saat mengujinya. Dia mengatakan dia masih bekerja untuk meningkatkan akurasi model.

Namun dengan merancang aplikasi yang menyoroti apa yang memisahkan manusia dari AI, alat tersebut membantu bekerja menuju misi inti untuk Tian: membawa transparansi ke AI.

“Selama ini AI telah menjadi kotak hitam di mana kita benar-benar tidak tahu apa yang terjadi di dalamnya,” katanya. “Dan dengan GPTZero, saya ingin mulai melawan dan melawannya.”

Upaya untuk mengekang plagiarisme AI

Senior perguruan tinggi tidak sendirian dalam perlombaan untuk mengendalikan plagiarisme dan pemalsuan AI. OpenAI, pengembang ChatGPT, telah mengisyaratkan komitmen untuk mencegah plagiarisme AI dan aplikasi jahat lainnya. Bulan lalu, Scott Aaronson, seorang peneliti yang saat ini berfokus pada keamanan AI di OpenAI, mengungkapkan bahwa perusahaan telah berupaya untuk “menandai” teks yang dihasilkan GPT dengan “sinyal rahasia yang tidak terlihat” untuk mengidentifikasi sumbernya.

Komunitas AI open-source Hugging Face telah mengeluarkan alat untuk mendeteksi apakah teks dibuat oleh GPT-2, versi sebelumnya dari model AI yang digunakan untuk membuat ChatGPT. Seorang profesor filosofi di South Carolina yang kebetulan mengetahui tentang alat tersebut mengatakan bahwa dia menggunakannya untuk menangkap seorang siswa yang mengirimkan karya tulis AI.

Departemen pendidikan Kota New York mengatakan pada hari Kamis bahwa mereka memblokir akses ke ChatGPT di jaringan dan perangkat sekolah karena kekhawatiran tentang “dampak negatifnya pada pembelajaran siswa, dan kekhawatiran tentang keamanan dan keakuratan konten.”

Tian tidak menentang penggunaan alat AI seperti ChatGPT.

GPTZero “tidak dimaksudkan sebagai alat untuk menghentikan penggunaan teknologi ini,” katanya. “Tetapi dengan teknologi baru apa pun, kita harus dapat mengadopsinya secara bertanggung jawab dan kita perlu memiliki perlindungan.”

Hak Cipta 2023 NPR. Untuk melihat lebih lanjut, kunjungi https://www.npr.org.