Sebuah laporan New York Times baru-baru ini membahas tantangan yang sedang dihadapi Apple saat mengatur App Store-nya untuk menjaga agar aplikasi yang membahayakan anak tidak beredar. Dalam artikel tersebut, Times membahas situs web baru bernama App Danger Project yang membantu orang tua menentukan apakah aplikasi yang dipasang di perangkat anak mereka berpotensi berbahaya atau tidak dengan menggunakan algoritme pembelajaran mesin yang menganalisis ulasan yang ditinggalkan oleh pengguna lain.
Saat ini, Proyek Bahaya Aplikasi mencantumkan 182 aplikasi yang dapat ditemukan di App Store Apple dan Google Play Store yang telah ditandai sebagai “setidaknya beberapa ulasan yang menunjukkan bahaya”.
Orang tua dapat memfilter hasil berdasarkan platform (“Apple” atau “Google.”). Dengan memfilter hasil untuk menyertakan hanya hasil “Apple” dalam daftar 146 aplikasi.
Alat pencarian situs web memungkinkan orang tua menemukan aplikasi di kedua toko aplikasi dan melihat ulasan terpilih yang menyertakan indikasi kemungkinan membahayakan anak. Hasil pencarian mencakup ulasan yang menyebutkan kejahatan paling jahat, termasuk referensi pelecehan seksual terhadap anak dan indikator lain bahwa aplikasi tersebut sedang atau dapat digunakan untuk menyakiti pengguna di bawah umur.
Misalnya, penelusuran untuk “Snapchat” menampilkan 23 ulasan dengan peringatan bahwa, “Kami menemukan sejumlah besar ulasan yang menunjukkan bahwa aplikasi ini tidak aman untuk anak-anak”.
Pencarian serupa untuk Instagram menghasilkan nol ulasan yang mengindikasikan bahaya terhadap anak. Saat saya mencari TikTok, ternyata belum dimasukkan ke dalam database App Danger Project.
Menurut Times , Apple menyelidiki 10 aplikasi dari App Store dan menghapusnya setelah menemukan bahwa mereka melanggar aturan distribusinya. Apple menolak memberikan daftar aplikasi spesifik yang dihapus atau mengomentari alasan penghapusan.
Pencipta Proyek Bahaya Aplikasi mengatakan mereka percaya laporan penyalahgunaan harus ditampilkan secara jelas kepada pengguna dan orang tua di toko aplikasi Google dan Apple. Mereka juga ingin melihat Apple dan Google menawarkan kemampuan bagi pengguna dan orang tua untuk mengurutkan berdasarkan “Laporan Penyalahgunaan”.
Mereka juga berharap kedua raksasa teknologi itu menanggapi laporan kemungkinan pelecehan seksual anak secara lebih serius dengan menyelidiki kemungkinan pengguna berbahaya di aplikasi dan memposting hasil penyelidikan tersebut untuk dipublikasikan di toko aplikasi masing-masing.
Mereka juga percaya bahwa Google dan Apple harus menghentikan pengunduhan aplikasi ketika ada laporan kemungkinan membahayakan anak sampai pengembang aplikasi dapat membuktikan bahwa mereka telah mengambil tindakan untuk menyelesaikan masalah tersebut.
Jika Anda telah mengamati penyalahgunaan semacam itu dalam suatu aplikasi, itu dapat dilaporkan sebagai CyberTip ke National Center for Missing and Exploited Children (NCMEC). Anda juga dapat menyumbang ke proyek dan upaya lain oleh UMass Rescue Lab nirlaba untuk menghancurkan pelecehan seksual anak online dengan mengunjungi halaman donasi mereka .