Home-theater-designers
Kecerdasan Buatan (AI) akan mengubah keseluruhan segmen masyarakat kita sama ada kita suka atau tidak, dan itu termasuk World Wide Web.
Dengan perisian seperti ChatGPT tersedia kepada sesiapa sahaja yang mempunyai sambungan internet, semakin sukar untuk memisahkan kandungan yang dijana AI, daripada kandungan yang dicipta oleh manusia. Nasib baik kita mempunyai pengesan kandungan AI, bukan?
perkara yang menarik untuk dilakukan di excelMAKEUSEOF VIDEO OF THE DAY SCROLL UNTUK MENERUSKAN KANDUNGAN
Adakah Pengesan Kandungan AI Berfungsi?
Pengesan kandungan AI ialah alat khusus yang menentukan sama ada sesuatu ditulis oleh program komputer atau manusia. Jika anda hanya Google perkataan 'pengesan kandungan AI', anda akan melihat terdapat berpuluh-puluh pengesan di luar sana, semua mendakwa mereka boleh membezakan antara teks manusia dan bukan manusia dengan pasti.
Cara mereka berfungsi agak mudah: anda menampal sekeping tulisan, dan alat itu memberitahu anda sama ada ia dijana oleh AI atau tidak. Dalam istilah yang lebih teknikal, menggunakan gabungan teknik pemprosesan bahasa semula jadi dan algoritma pembelajaran mesin, pengesan kandungan AI mencari corak dan kebolehramalan, dan membuat panggilan berdasarkan itu.
Ini kedengaran hebat di atas kertas, tetapi jika anda pernah menggunakan alat pengesanan AI, anda tahu betul bahawa alat itu sangat berkesan, secara ringkasnya. Lebih kerap daripada tidak, mereka mengesan kandungan tulisan manusia sebagai AI, atau teks yang dicipta oleh manusia sebagai yang dihasilkan AI. Malah, ada yang memalukan teruk dengan apa yang sepatutnya mereka lakukan.
Sejauh manakah Tepat Pengesan Kandungan AI?
Jika anda berada di Amerika Syarikat, hasil carian Google pertama untuk 'pengesan kandungan AI' ialah writer.com (sebelum ini dikenali sebagai Qordoba; ini ialah platform kandungan AI yang turut mempunyai pengesannya sendiri). Tetapi apabila anda menampal bahagian rawak ini Associated Press artikel ke dalam alat itu, ia mendakwa terdapat peluang yang sangat baik ia dihasilkan oleh kecerdasan buatan.
Jadi, writer.com telah salah faham.
Untuk bersikap adil, pengesan kandungan AI lain hampir tidak lebih baik. Mereka bukan sahaja menghasilkan positif palsu, tetapi mereka juga menandakan kandungan AI sebagai manusia. Dan walaupun mereka tidak melakukannya, membuat tweak kecil pada teks yang dijana AI sudah cukup untuk lulus dengan cemerlang.
Pada Februari 2023, Pensyarah Universiti Wollongong Armin Alimardani dan Profesor Madya di UNSW Sydney Emma A. Jane telah menguji beberapa pengesan kandungan AI yang popular, membuktikan bahawa tiada satu pun daripada mereka boleh dipercayai. Dalam analisis mereka, yang diterbitkan dalam Perbualan , Alimardani dan Jane menyimpulkan bahawa 'perlumbaan senjata' AI ini antara penjana teks dan pengesan akan menimbulkan cabaran yang ketara pada masa hadapan, terutamanya bagi para pendidik.
Tetapi bukan hanya pendidik dan guru yang mempunyai sebab untuk bimbang: semua orang begitu. Apabila teks yang dijana AI menjadi tersebar di mana-mana, dapat membezakan antara apa yang 'sebenar' dan apa yang tidak, iaitu benar-benar mengesan apabila sesuatu ditulis oleh AI , akan menjadi lebih sukar. Ini akan memberi kesan besar kepada hampir semua industri dan bidang masyarakat, malah hubungan peribadi.
Implikasi AI untuk Keselamatan Siber dan Privasi
Hakikat bahawa tiada mekanisme yang boleh dipercayai untuk menentukan sama ada sesuatu dicipta oleh perisian atau manusia mempunyai implikasi serius terhadap keselamatan siber dan privasi.
Pelakon ugutan sudah menggunakan ChatGPT untuk menulis perisian hasad , menjana e-mel pancingan data, menulis spam, mencipta tapak penipuan dan banyak lagi. Dan walaupun terdapat cara untuk mempertahankannya, ia pasti membimbangkan bahawa tiada perisian yang mampu membezakan dengan pasti antara kandungan organik dan bot.
Berita palsu juga sudah menjadi masalah besar. Dengan AI generatif dalam gambar, ejen disinformasi dapat meningkatkan operasi mereka dengan cara yang tidak pernah berlaku sebelum ini. Sementara itu, orang biasa tidak mempunyai cara untuk mengetahui sama ada sesuatu yang mereka baca dalam talian dicipta oleh perisian atau manusia.
Privasi adalah perkara yang berbeza. Ambil ChatGPT, sebagai contoh. Ia adalah memberi makan lebih daripada 300 bilion perkataan sebelum pelancarannya. Kandungan ini telah ditarik balik daripada buku, blog dan siaran forum, artikel dan media sosial. Ia dikumpulkan tanpa persetujuan sesiapa, dan dengan tidak menghiraukan privasi dan perlindungan hak cipta sepenuhnya.
Kemudian terdapat juga isu positif palsu. Jika kandungan tersilap dibenderakan sebagai dijana AI, bukankah itu boleh membawa kepada penapisan, yang merupakan isu besar pula? Apatah lagi kerosakan yang dituduh menggunakan teks ciptaan AI boleh menjejaskan reputasi seseorang, dalam talian dan dalam kehidupan sebenar.
Jika memang terdapat perlumbaan senjata antara AI generatif dan pengesan kandungan, yang pertama menang. Yang lebih teruk, nampaknya tiada jalan penyelesaian. Semua yang kami ada produk separuh masak kami yang tidak berfungsi separuh masa, atau boleh ditipu dengan mudah.
Cara Mengesan Kandungan AI: Penyelesaian Berpotensi
Bahawa kami pada masa ini nampaknya tidak mempunyai jawapan sebenar untuk masalah ini tidak bermakna kami tidak akan mempunyai apa-apa pada masa hadapan. Malah, sudah ada beberapa cadangan serius yang boleh berjaya. Penanda air adalah satu.
Mengenai AI dan model bahasa dalam, tera air merujuk kepada membenamkan jenis kod rahsia ke dalam teks yang dijana AI (cth. corak perkataan, gaya tanda baca). Tera air sedemikian tidak dapat dilihat dengan mata kasar, dan oleh itu hampir mustahil untuk dialih keluar, tetapi perisian khusus akan dapat mengesannya.
Malah, pada tahun 2022, Universiti Maryland penyelidik membangunkan kaedah penanda air baharu untuk rangkaian saraf tiruan. Ketua penyelidik Tom Goldstein berkata pada masa itu bahawa pasukannya telah berjaya 'membuktikan secara matematik' bahawa tera air mereka tidak boleh dialih keluar sepenuhnya.
Buat masa ini, apa yang boleh dilakukan oleh orang biasa ialah bergantung pada naluri dan akal fikiran mereka. Jika terdapat sesuatu yang tidak kena tentang kandungan yang anda baca—jika ia dirasakan tidak wajar, berulang, tidak imaginatif, cetek—ia mungkin dicipta oleh perisian. Sudah tentu, anda juga harus mengesahkan apa-apa maklumat yang anda lihat dalam talian, semak semula sumbernya dan jauhi tapak web yang teduh.
Revolusi AI Sedang Berlangsung
Ada yang berpendapat bahawa revolusi perindustrian kelima sudah pun tiba, kerana kecerdasan buatan menjadi tumpuan utama dalam apa yang digambarkan sebagai konvergensi digital dan fizikal. Sama ada itu benar atau tidak, apa yang boleh kita lakukan ialah menyesuaikan diri.
Berita baiknya ialah, industri keselamatan siber sedang menyesuaikan diri dengan realiti baharu ini, dan melaksanakan strategi pertahanan baharu dengan AI dan pembelajaran mesin di barisan hadapan.