Instagram Sekarang Menggunakan AI Untuk Blokir Komentar

Instagram memperkenalkan filter komentar yang disempurnakan hari ini dimaksudkan untuk menghapus ucapan buruk menggunakan AI. Aplikasi pertama kali mulai menawarkan filter komentar pada bulan September yang lalu, namun ini adalah pendekatan yang sangat sederhana. Instagram hanya akan menghapus komentar yang berisi kata-kata dan ungkapan yang secara khusus diidentifikasi sebagai ofensif. (Pengguna juga dapat menambahkan frase yang dilarang khusus mereka sendiri).

Kini, sistemnya semakin pintar. Menggunakan pembelajaran mesin untuk mengidentifikasi komentar yang tampaknya menyinggung, memberi sistem beberapa kemampuan untuk mempertimbangkan konteks jawaban, berpotensi menangkap komentar yang lebih buruk dan mengurangi positif palsu pada saat bersamaan. Wired memiliki cerita besar tentang bagaimana sistem dibuat, dan ini menyebutkan bahwa ketika ada komentar yang ditandai, itu akan diblokir untuk semua orang, kecuali orang yang menulisnya, jadi mereka tidak akan tahu ucapan mereka tidak berhasil melaluinya di komentar.

 

Satu perubahan penting lainnya di sini bahwa Instagram mengubah filter komentar ofensif secara default, sedangkan filter sebelumnya harus diaktifkan. Anda masih akan diberi pilihan untuk mematikannya dari dalam setelan aplikasi, dan Instagram masih menyertakan kemampuan untuk mencekal kata dan frase khusus.

Filter hanya bekerja dalam bahasa Inggris saat diluncurkan, namun Instagram mengatakan bahwa pihaknya berupaya mengembangkannya ke bahasa lain.

Instagram juga mengumumkan sistem penyaringan spam AI hari ini juga. Filter spam telah diam-diam ada sejak Oktober lalu, tapi baru terungkap hari ini. Mengingat tidak ada yang memerhatikannya dalam sembilan bulan terakhir, filternya mungkin tidak menghalangi terlalu banyak komentar yang seharusnya tidak. Filter itu aktif dalam sembilan bahasa, termasuk bahasa Inggris. (Sebagai catatan: Instagram benar-benar membutuhkan sistem yang lebih baik untuk memblokir akun spam, juga. Saya mengatur profil saya ke private baru-baru ini untuk mengurangi pengikut spam, tapi sekarang saya hanya mengikuti permintaan dari akun spam saja).