Startup jejaring sosial Bluesky, yang tengah membangun alternatif terdesentralisasi untuk X (sebelumnya Twitter), memberikan informasi terbaru pada hari Rabu tentang bagaimana perusahaan tersebut menangani berbagai masalah kepercayaan dan keamanan pada platformnya. Perusahaan tersebut tengah dalam berbagai tahap pengembangan dan uji coba berbagai inisiatif yang difokuskan pada penanganan pelaku kejahatan, pelecehan, spam, akun palsu, keamanan video, dan banyak lagi.
Untuk mengatasi pengguna jahat atau mereka yang melecehkan orang lain, Bluesky mengatakan sedang mengembangkan perangkat baru yang dapat mendeteksi saat beberapa akun baru dibuat dan dikelola oleh orang yang sama. Ini dapat membantu mengurangi pelecehan, di mana pelaku kejahatan menciptakan beberapa karakter berbeda untuk menyasar korbannya.
Eksperimen baru lainnya akan membantu mendeteksi balasan yang “kasar” dan menampilkannya kepada moderator server. Mirip dengan Mastodon, Bluesky akan mendukung jaringan tempat para hoster mandiri dan pengembang lain dapat menjalankan server mereka sendiri yang terhubung dengan server Bluesky dan server lain di jaringan. Kemampuan federasi ini masih dalam tahap akses awal. Namun, di kemudian hari, moderator server akan dapat memutuskan bagaimana mereka ingin mengambil tindakan terhadap mereka yang memposting balasan yang kasar. Sementara itu, Bluesky pada akhirnya akan mengurangi visibilitas balasan ini di aplikasinya. Label kasar yang berulang pada konten juga akan menyebabkan label dan penangguhan di tingkat akun, katanya.
Untuk mengurangi penggunaan daftar untuk mengganggu orang lain, Bluesky akan menghapus pengguna tertentu dari daftar jika mereka memblokir pembuat daftar tersebut. Fungsionalitas serupa juga baru-baru ini diluncurkan ke Starter Packs, yang merupakan jenis daftar yang dapat dibagikan yang dapat membantu pengguna baru menemukan orang untuk diikuti di platform (lihat TechCrunch Starter Pack).
Bluesky juga akan memindai daftar dengan nama atau deskripsi yang kasar untuk mengurangi kemampuan orang melecehkan orang lain dengan menambahkan mereka ke daftar publik dengan nama atau deskripsi yang kasar atau beracun. Mereka yang melanggar Pedoman Komunitas Bluesky akan disembunyikan di aplikasi hingga pemilik daftar membuat perubahan untuk mematuhi peraturan Bluesky. Pengguna yang terus membuat daftar yang kasar juga akan ditindak lebih lanjut, meskipun perusahaan tidak memberikan rinciannya, seraya menambahkan bahwa daftar masih menjadi area diskusi dan pengembangan yang aktif.
Dalam beberapa bulan ke depan, Bluesky juga akan beralih menangani laporan moderasi melalui aplikasinya menggunakan notifikasi, alih-alih mengandalkan laporan email.
Untuk melawan spam dan akun palsu lainnya, Bluesky meluncurkan uji coba yang akan mencoba mendeteksi secara otomatis saat akun tersebut palsu, menipu, atau mengirim spam kepada pengguna. Dipasangkan dengan moderasi, tujuannya adalah untuk dapat mengambil tindakan terhadap akun dalam “beberapa detik setelah menerima laporan,” kata perusahaan tersebut.
Salah satu perkembangan yang lebih menarik adalah bagaimana Bluesky akan mematuhi hukum setempat namun tetap memberikan kebebasan berbicara. Bluesky akan menggunakan label khusus geografi yang memungkinkannya menyembunyikan konten bagi pengguna di area tertentu untuk mematuhi hukum.
“Hal ini memungkinkan layanan moderasi Bluesky untuk tetap fleksibel dalam menciptakan ruang untuk kebebasan berekspresi, sekaligus memastikan kepatuhan hukum sehingga Bluesky dapat terus beroperasi sebagai layanan di wilayah geografis tersebut,” ungkap perusahaan tersebut dalam sebuah posting blog. “Fitur ini akan diperkenalkan di setiap negara, dan kami akan berusaha memberi tahu pengguna tentang sumber permintaan hukum jika memungkinkan secara hukum.”
Untuk mengatasi potensi masalah kepercayaan dan keamanan dengan video, yang baru-baru ini ditambahkan, tim menambahkan fitur-fitur seperti kemampuan menonaktifkan pemutaran otomatis untuk video, memastikan video diberi label, dan memastikan bahwa video dapat dilaporkan. Tim masih mengevaluasi hal-hal lain yang mungkin perlu ditambahkan, sesuatu yang akan diprioritaskan berdasarkan masukan pengguna.
Terkait penyalahgunaan, perusahaan tersebut mengatakan bahwa kerangka kerjanya secara keseluruhan adalah “menanyakan seberapa sering sesuatu terjadi vs seberapa berbahayanya hal itu.” Perusahaan tersebut berfokus pada penanganan masalah yang sangat merugikan dan sering terjadi sekaligus “melacak kasus-kasus khusus yang dapat mengakibatkan kerugian serius bagi beberapa pengguna.” Kasus yang terakhir, meskipun hanya memengaruhi sejumlah kecil orang, menyebabkan cukup banyak “kerugian berkelanjutan” sehingga Bluesky akan mengambil tindakan untuk mencegah penyalahgunaan, klaimnya.
Kekhawatiran pengguna dapat disampaikan melalui laporan, email, dan penyebutan ke akun @safety.bsky.app.