KABAR BANJAR– Bicara tentang TikTok, pasti kamu langsung teringat pada video pendek yang setiap hari muncul di FYP. Mulai dari tarian lucu, resep masakan sederhana, hingga tips teknologi—semua tersedia. Namun, di balik layar aplikasi hiburan ini, ada usaha besar yang jarang diketahui orang: pengawasan konten.
Ya, setiap video yang kamu tonton sebenarnya telah melalui proses filter terlebih dahulu. Tujuannya jelas: agar tidak ada konten berbahaya, tidak pantas, atau bahkan informasi palsu yang lolos begitu saja. Selama ini, proses ini dilakukan oleh ribuan moderator manusia yang tugasnya menonton, menyaring, bahkan terkadang menghapus video yang dianggap melanggar aturan.
Mengapa TikTok Berpindah ke Moderasi Berbasis AI?
Jika dipikir-pikir, wajar saja mengapa TikTok akhirnya serius memanfaatkan AI dalam moderasi konten. Ada beberapa alasan yang cukup kuat:
Tolong support kita ya,
Cukup klik ini aja: https://indonesiacrowd.com/support-bonus/
1. Skala Konten yang Sangat Luas
Bayangkan, setiap menit ratusan ribu video baru diunggah ke TikTok dari berbagai belahan dunia. Tidak mungkin semua videonya diperiksa secara manual oleh manusia. AI dianggap mampu bekerja lebih cepat, secara real-time, dan tidak mudah lelah.
2. Efisiensi Biaya
Jumlah moderator manusia bisa mencapai puluhan ribu orang. Hal ini berarti biaya gaji, tunjangan, dan fasilitas tambahan meningkat drastis. Menggunakan AI, perusahaan mampu mengurangi pengeluaran operasional secara signifikan.
3. Konsistensi Keputusan
Moderator manusia terkadang memiliki pendapat yang berbeda: sebuah video bisa dianggap aman, sementara moderator lain mungkin menghapusnya. AI dianggap lebih konsisten karena mengikuti algoritma yang sama.
4. Tekanan Psikologis yang Dialami Moderator
Banyak laporan menyebutkan bahwa pekerjaan sebagai moderator konten sangat melelahkan secara mental. Mereka sering kali terpapar video kekerasan, pornografi, hingga konten ekstrem lainnya. AI dianggap lebih tahan banting karena tidak memiliki perasaan.
Cara Kerja Sistem Moderasi AI di TikTok?
Teknologi yang digunakan TikTok sebenarnya merupakan kombinasi dari berbagai inovasi canggih:
Pengolahan Citra: Mampu mengidentifikasi gambar atau rekaman video, contohnya pengenalan senjata, darah, atau lambang tertentu.
Pemrosesan Bahasa Alami (NLP): Digunakan untuk membaca judul, komentar, atau teks yang terdapat dalam video.
Pengenalan Suara: Mampu mengidentifikasi suara, lirik lagu, atau ucapan yang ada dalam video.
Pembelajaran Mesin: Sistem yang belajar dari data, sehingga semakin lama semakin mampu mengenali pelanggaran.
Prosesnya biasanya begini:
Video diunggah.
AI melakukan pemeriksaan otomatis secara langsung.
Jika ditemukan pelanggaran aturan yang jelas (seperti adanya konten pornografi atau ucapan permusuhan), video dapat segera dihapus tanpa perlu campur tangan pihak manusia.
Jika kasusnya bersifat samar (seperti satire, lelucon gelap, atau materi yang sensitif), AI dapat memberi tanda agar direview oleh moderator manusia, tetapi jumlahnya menjadi jauh lebih sedikit.
Dampak terhadap Moderator Manusia: Gelombang Pemutusan Hubungan Kerja
Di balik kemajuan yang dimiliki, terdapat kisah yang cukup menyedihkan. Ratusan moderator yang sebelumnya bekerja untuk TikTok (baik secara langsung maupun melalui pihak ketiga) akhirnya di-PHK.
Beberapa isu yang muncul:
Kehilangan pekerjaan tetap: Banyak di antara mereka yang mengandalkan pekerjaan ini untuk bertahan hidup.
Kompensasi minimal: Terdapat laporan bahwa pesangon yang diberikan tidak sesuai dengan lamanya masa kerja.
Apakah Kecerdasan Buatan Dapat Menggantikan Seluruh Moderator?
Pertanyaan utama yang muncul adalah: apakah benar kecerdasan buatan mampu sepenuhnya menggantikan peran manusia?
Jawabannya: nggak sepenuhnya.
Mengapa? Karena terdapat beberapa hal yang masih sulit dilakukan oleh AI:
Konteks Budaya
Kata yang sama dapat memiliki makna berbeda di setiap negara. Sebagai contoh, gerakan tangan mungkin dianggap biasa dalam satu budaya, tetapi dianggap tidak sopan dalam budaya lain. AI sering mengalami kesulitan dalam memahami konteks semacam ini.
Humor dan Sarkasme
AI sering kali kesulitan membedakan antara konten yang serius dengan yang hanya sekadar bercanda. Akibatnya, terjadi kasus false positive (video yang aman justru dihapus).
Isu Kepentingan Etika dan Hak Asasi Manusia
Terkadang keputusan dalam moderasi tidak hanya terkait aturan, tetapi juga melibatkan tantangan etis. Contohnya, konten yang bersifat mengganggu terkait politik, agama, atau isu sosial.
Oleh karena itu, meskipun AI semakin berkembang, peran manusia tetap diperlukan sebagai “pembuat keputusan terakhir” dalam situasi yang sensitif.
Reaksi Publik dan Netizen
Berita mengenai TikTok yang menggantikan moderator manusia dengan AI tentu tidak lepas dari perhatian pengguna internet. Ada yang mendukung, ada pula yang menentang.
Pro-Kecerdasan Buatan: “Bagus saja, agar lebih cepat dan tidak ada konten berbahaya yang lolos.”
Tanggapan: “Sayang sekali bagi para karyawan. Sekali lagi, manusia menjadi korban demi keefisienan perusahaan.”
Netral: “Selama hasilnya baik dan adil, tidak masalah jika AI yang melakukan moderasi.”
Di sisi lain, beberapa penggiat hak digital menyoroti bahwa AI juga dapat memiliki kecenderungan bias. Jika dataset yang digunakan tidak bersifat inklusif, maka konten dari kelompok tertentu cenderung lebih sering dihapus.
Bagaimana dengan Platform Lain?
Sebenarnya, TikTok bukanlah yang pertama menggunakan AI dalam moderasi konten. YouTube, Facebook, dan Instagram telah lama mengandalkan teknologi AI. Perbedaannya adalah mereka biasanya tetap mempertahankan ribuan moderator manusia sebagai cadangan.
Misalnya, YouTube pada masa pandemi 2020 lebih mengandalkan teknologi AI karena para moderator bekerja dari rumah. Akibatnya, banyak video yang seharusnya tidak bermasalah justru dihapus. Dari kejadian itu, mereka menyadari bahwa AI belum mampu berfungsi secara sempurna.
Masa Depan Moderasi Konten
Jika kita melihat perkembangan terkini, pengelolaan konten di masa depan akan menjadi gabungan antara teknologi AI dan manusia.
AI: sebagai filter utama, cepat, luas, dan efektif.
Manusia: menjadi pihak yang menentukan keputusan akhir dalam kasus yang bersifat ambigu atau sensitif.
Mungkin yang akan berubah adalah jumlah moderator manusia akan jauh berkurang. Dari yang sebelumnya ribuan, mungkin hanya ratusan orang saja.
Langkah TikTok dalam memanfaatkan kecerdasan buatan untuk pengawasan konten merupakan bagian dari tren besar di dunia teknologi: otomatisasi. Dari sudut pandang bisnis, hal ini logis karena lebih cepat, hemat biaya, dan konsisten. Namun dari sudut pandang manusia, ada biaya yang harus dibayar: ribuan pekerja kehilangan pekerjaan mereka.
Pertanyaan yang masih tersisa adalah: apakah kita sebagai pengguna merasa lebih nyaman jika konten diatur oleh AI, atau lebih mempercayai manusia?
Jelas, dunia digital semakin bergantung pada kecerdasan buatan. Kisah TikTok ini mungkin hanya permulaan dari perubahan besar dalam cara platform media sosial beroperasi di masa depan.***
