Kesan Pertama

"Berhati-hatilah saat meninjau konten yang dihasilkan oleh AI, terutama ketika konten tersebut menyentuh topik sensitif seperti Ketua China yang dihormati, Mao Zedong"

Berapa Harga Saham iFlyTek?

Saham iFlyTek, sebuah perusahaan Cina yang berspesialisasi dalam kecerdasan buatan, turun 10% baru-baru ini. Mengapa? Karena tablet yang dirancang untuk membantu siswa dalam belajar ini mulai mengkritik Mao Zedong.

Gambar: CN Wire

Apa yang dikatakan oleh AI iFlyTek?

Bayangkan Anda memiliki asisten pintar, seperti Siri atau Alexa, tetapi asisten tersebut mulai berbicara tentang politik yang sensitif.

Itulah yang terjadi di sini. Gadget bantuan siswa ini, yang dijual oleh iFlyTek, mendapat kecaman karena menggambarkan Mao Zedong, bapak pendiri Tiongkok modern, sebagai "berpikiran sempit" dan "tidak toleran";

Gambar: scmp

Apakah AI iFlyTek di Luar Kendali?

Insiden ini menyoroti sebuah keprihatinan: bahkankecerdasan buatan dapat memiliki 'pikiran ' sendiri, terkadang menghindari alat sensor resmi.

Ini seperti anjing Anda yang berperilaku baik tiba-tiba memutuskan untuk melakukan bisnisnya di kebun tetangga, tanpa diundang.

Hal ini terjadi dengan latar belakang peraturan baru di Tiongkok, yang bertujuan untuk mengatur bagaimana teknologi AI berinteraksi dengan masyarakat.

Daftar hitam bahkan telah diusulkan untuk membatasi sumber data yang dapat melatih model AI ini.

Gambar: CNA

Bagaimana iFlyTek Akan Mengatasi Masalah Ini?

Seorang perwakilan dari layanan pelanggan iFlyTek mengatakan kepada Reuters bahwa masalah ini telah "ditangani," tetapi menolak untuk memberikan rincian lebih lanjut.

Chairman iFlyTek, Liu Qingfeng, menjelaskan bahwa konten kontroversial tersebut berasal dari pemasok selama fase uji coba. Baik pemasok maupun beberapa karyawan iFlyTek menghadapi dampaknya.

Untuk mencegah hal semacam ini terjadi di masa depan, Liu mengatakan bahwa perusahaan telah meningkatkan proses peninjauan konten pada perangkat.

Gambar: huaweicentral

Bagaimana Masa Depan iFlyTek?

Khususnya, iFlyTek baru-baru ini mengumumkan model Spark AI barunya, yang diklaim sebagaisetara dengan ChatGPT dari OpenAI & # 39; ChatGPT di beberapa area penting.

Kecelakaan baru-baru ini dengan AI iFlyTek mungkin membayangi kolaborasinya yang sedang berlangsung denganHuawei berpotensi mengguncang fondasi kepercayaan antara kedua perusahaan.