- Algoritma saran YouTube dipanggil oleh The New York Times dalam artikel baru.
- Menurut penelitian yang dilakukan olehWaktu, Algoritme YouTube akan menyarankan konten batas kepada mereka yang mencari video pedofil.
- Terlebih lagi, algoritme juga dapat mendorong konten batas kepada mereka yang tidak perlu mencarinya.
Kemarin,The New York Times menerbitkan sebuah artikel yang mengkhawatirkan yang berpusat pada bagaimana algoritma YouTube untuk menyarankan konten baru dapat secara tidak sengaja membantu para pedofil. Faktanya, beberapa informasi yang diperoleh dari penelitian untuk artikel tersebut menunjukkan bahwa algoritma tersebut bahkan dapat membantu mendorong konten pedofil kepada mereka yang tidak perlu mencarinya.
Tak lama setelah artikel itu mendarat, YouTube memposting entri baru ke blognya yang secara tidak langsung membahas artikel tersebut. Dalam pos YouTube, perusahaan merinci tindakan yang diambil selama setahun terakhir untuk memerangi pedofilia di platform serta berbagai upaya yang dilakukan untuk menjaga anak-anak tetap aman.
Namun, pos YouTube tidak menawarkan strategi baru; melainkan, ia hanya merangkum berbagai upaya saat ini sebagai jaminan.
Di artikel yang muncul diThe New York Times, penulis menceritakan kisah seorang ibu yang dengan senang hati setuju untuk mengizinkan putrinya yang berusia 10 tahun untuk memposting video ke YouTube tentang dirinya dan seorang teman bermain di kolam halaman belakang. Sang ibu terkejut kemudian menemukan video ini - yang hanya menggambarkan dua gadis muda berenang dan duduk-duduk di sekitar kolam renang dengan pakaian renang dua potong - telah memeras lebih dari 400.000 tontonan.
Video menjadi sangat populer sebagian karena algoritma saran YouTube. Algoritma ini bertanggung jawab untuk menyarankan konten kepada pemirsa berdasarkan konten lain yang telah mereka tonton. Dalam arti tertentu, YouTube menyalurkan pedofil ke video anak-anak ini yang bermain di kolam renang.
Pedofil tidak perlu mencari konten garis batas di YouTube karena YouTube hanya akan menyarankannya kepada mereka.
Terlebih lagi, tim peneliti Brasil menemukan bahwa algoritma YouTube cenderung mendorong konten yang semakin ekstrem dengan saran-sarannya. Misalnya, seseorang dapat mulai menonton video tentang cara memperbaiki sepeda, kemudian menonton video orang yang benar-benar bersepeda. Kemudian, YouTube dapat menyarankan mereka menonton video pengendara sepeda menabrak, dan kemudian kendaraan lain menabrak. Sebelum pemirsa mengetahuinya, mereka mendapatkan saran untuk konten yang kasar dan mengganggu - semua berasal dari menonton video tentang cara memperbaiki sepeda.
Lihat Juga: YouTube Originals akan bebas untuk ditonton semua orang, hanya dengan iklan
Demikian pula, video kolam renang dapat ditautkan ke konten dewasa sugestif. Seseorang dapat berangkat untuk menonton konten erotis tapi legal di YouTube - misalnya, gulungan model bikini.Konten itu bisa mengarah pada saran untuk konten pakaian renang erotis lainnya, yang secara bertahap mengarah ke video yang menampilkan model yang lebih muda. Akhirnya, itu mengarah ke hampir setengah juta tampilan dua anak sepuluh tahun di kolam.
YouTube memiliki masalah serius yang mengharuskan perusahaan untuk bertindak berdasarkan etika dengan mengorbankan keuntungan.
KapanWaktu memberi tahu YouTube tentang masalah ini mengenai video kolam renang, perusahaan menghapus beberapa video terkait tetapi meninggalkan banyak video lainnya, termasuk beberapa yang tampaknya berasal dari akun palsu. Ini juga men-tweak sarannya sehingga konten garis batas lainnya tidak muncul. Namun, YouTube menolak melakukan hal ini dengan sengaja, alih-alih mengklaim algoritme terus belajar.
Sekarang, dalam posting blog tanggapannya, YouTube menyoroti upaya terbarunya untuk menjaga anak-anak tetap aman di platform, termasuk menghapus komentar dari hampir semua video yang menampilkan anak di bawah umur, membatasi anak di bawah umur dari streaming langsung tanpa kehadiran orang dewasa dalam video, dan membatasi rekomendasi seperti yang dijelaskan olehWaktu.
Namun, YouTube belum melakukan perubahan menyeluruh yang akan mencegah seluruh masalah ini: mematikan saran untuk video yang menampilkan anak di bawah umur. Meskipun YouTube memiliki kemampuan untuk melakukan ini dengan cukup mudah, itu belum dilakukan, kemungkinan karena saran video mendorong sekitar 70 persen penayangan. Itu banyak pendapatan yang dipertaruhkan.
Setelah popularitas video putrinya yang tak terduga, ibu yang menyetujuinya mengatakan dia tidak akan lagi mengizinkan putrinya memposting apa pun di platform.
