Home-theater-designers
ChatGPT ialah chatbot AI baharu yang berkuasa yang pantas menarik perhatian, namun ramai orang telah menyatakan bahawa ia mempunyai beberapa masalah yang serius. Tanyakan apa sahaja yang anda suka, dan anda akan menerima jawapan yang kelihatan seperti ditulis oleh manusia, setelah mempelajari pengetahuan dan kemahiran menulisnya daripada sejumlah besar maklumat di seluruh internet.
MAKEUSEOF VIDEO OF THE DAY
Sama seperti internet, bagaimanapun, kebenaran dan fakta tidak selalu diberikan dan ChatGPT bersalah kerana membuat kesilapan. Dengan ChatGPT ditetapkan untuk mengubah masa depan kami, berikut ialah beberapa kebimbangan terbesar.
Apa Itu ChatGPT?
ChatGPT ialah model pembelajaran bahasa besar yang direka untuk meniru perbualan manusia. Ia boleh mengingati perkara yang anda telah katakan kepadanya pada masa lalu dan mampu membetulkan dirinya apabila salah.
Ia menulis dengan cara seperti manusia dan mempunyai banyak pengetahuan kerana ia dilatih tentang semua jenis teks dari internet, seperti Wikipedia, catatan blog, buku dan artikel akademik.
Ia mudah untuk belajar cara menggunakan ChatGPT , tetapi yang lebih mencabar ialah mengetahui apakah masalah terbesarnya. Berikut adalah beberapa perkara yang patut diketahui.
1. ChatGPT Tidak Selalu Betul
Ia gagal dalam matematik asas, seolah-olah tidak dapat menjawab soalan logik mudah, dan bahkan akan pergi sejauh untuk membantah fakta yang tidak betul sama sekali. Seperti yang boleh dibuktikan oleh pengguna media sosial, ChatGPT boleh membuat kesilapan lebih daripada satu kali.
OpenAI mengetahui tentang had ini, menulis bahawa: 'ChatGPT kadangkala menulis jawapan yang munasabah tetapi tidak betul atau tidak masuk akal.' 'Halusinasi' fakta dan fiksyen ini, seperti yang dipanggil oleh sesetengah saintis, amat berbahaya apabila ia datang kepada sesuatu seperti nasihat perubatan.
Tidak seperti pembantu AI lain seperti Siri atau Alexa, Chat GPT tidak menggunakan internet untuk mencari jawapan. Sebaliknya, ia membina ayat perkataan demi perkataan, memilih 'token' yang berkemungkinan besar yang akan datang seterusnya, berdasarkan latihannya.
Dalam erti kata lain, ChatGPT mencapai jawapan dengan membuat satu siri tekaan, yang merupakan sebahagian daripada sebab ia boleh membantah jawapan yang salah seolah-olah ia benar sepenuhnya.
Walaupun ia hebat dalam menerangkan konsep yang kompleks, menjadikannya alat yang berkuasa untuk pembelajaran, adalah penting untuk tidak mempercayai semua yang dikatakannya. ChatGPT tidak selalu betul—sekurang-kurangnya, belum.
cara mendapatkan wifi di rumah
2. Bias Dibakar Ke Dalam Sistem
ChatGPT dilatih tentang penulisan kolektif manusia di seluruh dunia, dahulu dan sekarang. Ini bermakna bahawa bias yang sama yang wujud dalam data, juga boleh muncul dalam model.
Malah, pengguna telah menunjukkan bagaimana ChatGPT boleh memberikan beberapa jawapan yang mengerikan, beberapa, sebagai contoh, yang mendiskriminasi wanita. Tetapi itu hanyalah puncak gunung ais; ia boleh menghasilkan jawapan yang amat berbahaya kepada pelbagai kumpulan minoriti.
Kesalahan tidak hanya terletak pada data sama ada. Penyelidik dan pembangun OpenAI memilih data yang digunakan untuk melatih ChatGPT. Untuk membantu menangani perkara yang disebut OpenAI sebagai 'tingkah laku berat sebelah', ia meminta pengguna memberi maklum balas tentang output yang buruk.
Dengan potensi untuk menyebabkan kemudaratan kepada orang ramai, anda boleh berhujah bahawa ChatGPT tidak sepatutnya dikeluarkan kepada umum sebelum masalah ini dikaji dan diselesaikan.
Chatbot AI serupa yang dipanggil Sparrow (dimiliki oleh syarikat induk Google, Alphabet) telah dikeluarkan pada September 2022. Walau bagaimanapun, ia disimpan secara tertutup kerana kebimbangan yang sama bahawa ia boleh menyebabkan kemudaratan.
Mungkin Meta sepatutnya mengetuai amaran juga. Apabila ia mengeluarkan Galactica, model bahasa AI yang dilatih pada kertas akademik, ia telah ditarik balik dengan pantas selepas ramai orang mengkritiknya kerana mengeluarkan keputusan yang salah dan berat sebelah.
3. Cabaran kepada Bahasa Inggeris Sekolah Menengah
Anda boleh meminta ChatGPT untuk membaca pruf tulisan anda atau menunjukkan cara untuk menambah baik perenggan. Sebagai alternatif, anda boleh mengalih keluar diri anda daripada persamaan sepenuhnya dan minta ChatGPT menulis sesuatu untuk anda.
Guru telah bereksperimen dengan memberi tugasan Bahasa Inggeris kepada ChatGPT dan telah menerima jawapan yang lebih baik daripada yang boleh dilakukan oleh ramai pelajar mereka. Daripada menulis surat lamaran kepada menerangkan tema utama dalam karya sastera terkenal, ChatGPT boleh melakukannya tanpa teragak-agak.
Itu menimbulkan persoalan: jika ChatGPT boleh menulis untuk kami, adakah pelajar perlu belajar menulis pada masa hadapan? Ia mungkin kelihatan seperti soalan wujud, tetapi apabila pelajar mula menggunakan ChatGPT untuk membantu menulis esei mereka, sekolah perlu memikirkan jawapan dengan pantas. Penggunaan pesat AI dalam beberapa tahun kebelakangan ini dijangka mengejutkan banyak industri, dan pendidikan hanyalah salah satu daripadanya.
4. Ia Boleh Menyebabkan Kemudaratan Dunia Sebenar
Terdahulu, kami menyebut bagaimana maklumat yang salah oleh ChatGPT boleh menyebabkan kemudaratan dunia sebenar, dengan contoh yang paling jelas ialah nasihat perubatan yang salah.
Terdapat kebimbangan lain juga. Akaun media sosial palsu menimbulkan masalah besar di internet dan dengan pengenalan chatbots AI, penipuan internet akan menjadi lebih mudah untuk dilakukan. Penyebaran maklumat palsu adalah satu lagi kebimbangan, terutamanya apabila ChatGPT menjadikan jawapan yang salah pun terdengar betul-betul meyakinkan.
Kadar di mana ChatGPT boleh menghasilkan jawapan yang tidak selalu betul telah menyebabkan masalah untuk Stack Exchange, tapak web di mana pengguna boleh menyiarkan soalan dan mendapatkan jawapan.
Tidak lama selepas dikeluarkan, jawapan oleh ChatGPT telah diharamkan daripada tapak kerana sebilangan besar daripadanya salah. Tanpa sukarelawan manusia yang mencukupi untuk mengisih tertunggak, adalah mustahil untuk mengekalkan tahap kualiti jawapan yang tinggi, menyebabkan kerosakan pada tapak web.
5. OpenAI Mempunyai Segala Kuasa
Dengan kuasa yang besar datang tanggungjawab yang besar, dan OpenAI memegang banyak kuasa. Ia adalah salah satu syarikat AI pertama yang benar-benar menggegarkan dunia dengan bukan hanya satu, tetapi beberapa model AI, termasuk Dall-E 2, GPT-3, dan kini, ChatGPT.
OpenAI memilih data yang digunakan untuk melatih ChatGPT dan cara ia menangani akibat negatif. Sama ada kita bersetuju dengan kaedah atau tidak, ia akan terus membangunkan teknologi ini mengikut matlamatnya sendiri.
Walaupun OpenAI menganggap keselamatan sebagai keutamaan yang tinggi, terdapat banyak perkara yang kita tidak tahu tentang cara model dicipta. Sama ada anda berpendapat bahawa kod itu harus dijadikan sumber terbuka, atau bersetuju bahawa ia harus merahsiakan sebahagian daripadanya, tidak banyak yang boleh kita lakukan mengenainya.
Pada penghujung hari, apa yang boleh kita lakukan ialah mempercayai bahawa OpenAI akan menyelidik, membangun dan menggunakan ChatGPT secara bertanggungjawab. Sebagai alternatif, kami boleh menyokong lebih ramai orang untuk bersuara ke arah mana AI harus menuju, berkongsi kuasa AI dengan orang yang akan menggunakannya.
Jika anda berminat dengan apa lagi yang telah dibangunkan oleh OpenAI, lihat artikel kami cara menggunakan Dall-E 2 dan cara menggunakan GPT-3 .
Menangani Masalah Terbesar AI
Terdapat banyak perkara yang perlu diuja dengan ChatGPT, pembangunan terkini OpenAI. Tetapi di luar penggunaan segeranya, terdapat beberapa masalah serius yang patut difahami.
OpenAI mengakui bahawa ChatGPT boleh menghasilkan jawapan yang berbahaya dan berat sebelah, apatah lagi keupayaannya untuk mencampurkan fakta dengan fiksyen. Dengan teknologi baharu sedemikian, sukar untuk meramalkan masalah lain yang akan timbul. Jadi sehingga itu, nikmati meneroka ChatGPT dan berhati-hati untuk tidak mempercayai semua yang dikatakan.