Instagram memperkenalkan ‘Sensitivity Screens’ untuk menyembunyikan gambar yang melukai diri sendiri di tengah meningkatnya bunuh diri remaja.
CEO baru Instagram, Adam Mosseri, menjelaskan berbagai langkah yang akan diambil anak perusahaan Facebook ini untuk mencegah penggunanya dari gambar yang membahayakan dirinya sendiri dan berakibat bunuh diri, sambil secara bersamaan mencari cara untuk membantu pengguna yang memposting konten itu.
Instagram mengumumkan rencana untuk memperkenalkan fitur untuk menyembunyikan gambar yang menunjukkan bahaya yaitu ‘Sensitivity Screens’. Fitur baru ini akan mengaburkan materi ofensif. Fitur ini mirip dengan yang digunakan di Facebook untuk menyembunyikan konten grafis.
Ini semua adalah bagian dari upaya platform untuk memerangi penyebaran yang menggambarkan bunuh diri atau melukai diri sendiri setelah peristiwa tragis yaitu kasus bunuh diri remaja Inggris, Molly Russell, di tengah kekhawatiran tentang penyebaran foto-foto yang mencelakakan diri di jejaring sosial. Orang tuanya percaya bahwa Russell yang masih berumur 14 tahun, telah mengambil nyawanya sendiri setelah melihat gambar grafis mencelakakan diri di Instagram dan Pinterest adalah faktor yang berkontribusi.
Mosseri mengungkapkan bahwa Instagram juga berinvestasi lebih jauh pada para ahli yang terlatih untuk bekerja sepanjang waktu mempersulit pencarian gambar tersebut. Mosseri mengatakan bahwa perlu melakukan segala yang perusahaan bisa untuk menjaga orang paling rentan yang menggunakan platform agar tetap aman.
Selain itu, upaya untuk melindungi pengguna dari penyalahgunaan termasuk kemampuan untuk menonaktifkan komentar pada tahun 2016. Induknya, Facebook, juga mulai meluncurkan alat pencegahan bunuh diri secara global pada bulan November 2017. Jadi, masuk akal untuk melihat program serupa diluncurkan ke layanan lain, terutama Instagram.
Instagram akan menggunakan ‘Sensitivity Screens’ untuk mengaburkan konten yang menyinggung dan menghapusnya dari pencarian, tagar, atau rekomendasi akun. Gambar tidak akan langsung terlihat, tapi akan tetap ada di sana. Belum jelas apakah Instagram akan bergantung pada alat kecerdasan buatan untuk secara otomatis mengenali elemen dalam bentuk foto atau video dengan kategori melukai diri sendiri.
Tanpa ingin menyensor konten terlalu banyak, Mosseri mengakui bahwa sesuatu perlu dilakukan untuk menghindari dilihat sebagai inspirasi untuk melukai diri sendiri. Konten grafis ini dapat dikaburkan, kecuali bagi orang-orang yang secara eksplisit menunjukkan ingin melihatnya. Fitur ini akan mengaburkan gambar sampai pengguna membuat keputusan untuk melihatnya sendiri dengan mengetuk gambar.
Instagram juga akan mendukung orang-orang yang memposting gambar dengan indikasi mereka sedang berjuang menggunakan platform melalui cara yang produktif untuk berbicara tentang perjuangan mereka dengan masalah ini.
Menteri Kesehatan Inggris Matt Hancock mengatakan untuk yang memiliki Instagram, dan kepada perusahaan teknologi lainnya bahwa dirinya akan menggunakan kekuatan untuk menuntut perusahaan yang gagal menghapus konten grafis dan ingin membuat kebijakan yang lebih baik untuk melindungi orang-orang dari gambar yang mencelakakan diri.
Dikatakan bahwa perusahaan media sosial perlu membersihkan konten ini untuk semua. Betapa mudahnya mengakses konten ini secara online, tapi juga tentang kerugian yang ditimbulkan oleh gambar ini terutama bagi kaum muda.
Ketika ada anak-anak dan remaja yang memiliki pemikiran untuk melukai diri atau bahkan sampai bunuh diri, kita tahu itu ada efek penularan. Kekhawatiran sebenarnya adalah ketika ada anak-anak yang memiliki pikiran untuk melukai dirinya sendiri, tapi tidak memiliki rencana dan ide konkret tentang bagaimana akan melakukannya.
Dengan demikian, apa yang dilakukan konten ini malah membantu mereka membuat rencana. Remaja sangat pribadi tentang kehidupannya, dan mereka mungkin mengenal media sosial yang orang tuanya pun tidak tahu. Orang tua seringkali adalah yang terakhir tahu kapan ada yang salah.
