Eksperimen Menarik: Chatbot Populer Mudah Terkecoh dalam 20 Menit

Eksperimen Menarik: Chatbot Populer Mudah Terkecoh dalam 20 Menit

Sebuah eksperimen baru menunjukkan bagaimana mudahnya chatbot berteknologi maju dari perusahaan besar seperti Google dan OpenAI bisa terjebak dalam informasi yang tidak benar.

Baca juga: Uya Kuya Terkena Imbas Penjarahan Pasca Video Joget Viral

Laporan oleh Thomas Germain dari BBC Internasional mengungkapkan bahwa proses ini hanya membutuhkan waktu sekitar 20 menit.

Metodologi Pengujian

Dalam eksperimen ini, Germain menciptakan sebuah artikel di situs web pribadinya dengan judul yang provokatif, 'Jurnalis teknologi terbaik dalam makan hot dog'.

Artikel tersebut berisi informasi dan klaim yang sepenuhnya fiktif mengenai kompetisi makan hot dog yang tidak pernah terjadi, mencantumkan namanya sebagai pemenang.

Hasilnya, dalam waktu kurang dari 24 jam, berbagai alat AI mulai memberikan respons yang sama persis dengan apa yang ditulis oleh Germain.

Baca juga: Cara Menunjukkan Cinta kepada Pasangan Melalui Tindakan Kecil

Tanggapan dari Alat AI

Setelah menerbitkan artikelnya, Germain mengamati bahwa Gemini, ChatGPT, dan AI Overview memberikan informasi yang konsisten dengan tulisan tersebut.

Namun, Claude dari Anthropic menunjukkan bahwa ia tidak terpengaruh oleh informasi yang salah.

Setelah Germain memperbaharui artikelnya dan menegaskan bahwa tulisan tersebut bukan satire, respons dari alat AI menjadi lebih serius.

Kritik dari Para Ahli

Harpreet Chatha, seorang konsultan SEO dari Harps Digital, menyoroti kerentanan alat AI ini terkait akurasi data yang diolah.

Ia menunjukkan bahwa dengan tidak adanya sistem keamanan yang kuat, kesalahan informasi menjadi lebih umum terjadi.

Chatha menekankan, 'Anda dapat menempatkan merek Anda di posisi teratas dan informasi tersebut berpotensi dirangkum oleh Google dan ChatGPT, menambah kepraktisan dalam penyebaran informasi yang salah.'

Baca juga: Menikmati Keindahan Sunset di Destinasi Terbaik Indonesia