Bunuh diri dan Facebook AI
Isi kandungan:
Apabila seseorang mati dengan bunuh diri, orang-orang dalam kehidupan mereka sering tertanya-tanya apa yang dapat dilakukannya untuk mencegahnya.
Pengguna media sosial mungkin menyesal melihat sesuatu yang menyusahkan yang disiarkan oleh orang itu, namun tidak melakukan apa-apa mengenainya.
IklanAdvertisementDalam usaha untuk membantu, Facebook telah mengumumkan bahawa ia memperluaskan penggunaan alat kecerdasan buatan (AI) untuk mengenal pasti apabila seseorang menyatakan pemikiran tentang bunuh diri atau kecederaan diri di laman web media sosial.
Sebelum bulan ini, Facebook hanya menggunakan alat pada beberapa pengguna di Amerika Syarikat. Sekarang, ia tersedia untuk kebanyakan pengguna 2 bilion laman web, kecuali yang ada di Kesatuan Eropah, yang mempunyai undang-undang privasi dan internet yang lebih ketat.
Mark Zuckerberg, ketua pegawai eksekutif Facebook, mengatakan penggunaan AI ini adalah perkembangan positif.
IklanBeliau baru-baru ini menyiarkan pada garis masa Facebooknya bahawa, "Pada bulan lalu sahaja, alat AI ini telah membantu kami menghubungkan dengan responden pertama dengan cepat lebih dari 100 kali. "
Seberapa tepat alat itu melakukan itu?
IklanAdvertisementFacebook tidak mendedahkan butiran terperinci, tetapi nampaknya alat ini berfungsi dengan menyunting melalui jawatan atau video dan membenderakannya apabila ia mengambil perkataan, video, dan imej yang mungkin menunjukkan seseorang itu berisiko untuk bunuh diri.
Facebook sudah menggunakan AI dalam perkara yang sama untuk mengimbas dan mengalih keluar jawatan yang memperlihatkan pornografi kanak-kanak dan kandungan lain yang tidak menyenangkan.
Seorang wakil Facebook memberitahu Healthline bahawa alat pencegahan bunuh diri membantu mengesan kandungan lebih cepat. AI juga membantu mengutamakan laporan-laporan, yang menunjukkan kes yang lebih serioius.
Kemudian, anggota pasukan komuniti Facebook terlatih mengkaji kandungan dan menentukan jenis bantuan yang diberikan kepada pengguna.
Ahli-ahli ini bekerja di seluruh dunia, sepanjang masa, dan mengkaji kedua-dua laporan dari alat AI dan daripada pengguna Facebook yang bersangkutan.
AdvertisementAdvertisementSalah satu cara alat AI mengesan kecenderungan bunuh diri ialah dengan menimbulkan pengguna dengan pertanyaan seperti, "Adakah anda OK? " "Boleh saya tolong? "Dan" Adakah anda memerlukan bantuan? "
Pasukan operasi komuniti Facebook ditugaskan untuk mengkaji kandungan yang dilaporkan sebagai ganas atau mengganggu.
Pada bulan Mei, Facebook mengumumkan ia akan menambah 3, 000 pekerja lebih kepada pasukan operasi, yang mempunyai 4, 500 pekerja pada masa itu.
IklanMenurut jurucakap Facebook, teknologi itu membantu untuk mengesan kandungan dan video yang dimuat orang di Facebook sering kali lebih cepat daripada seorang teman atau ahli keluarga boleh melaporkan bahan tersebut.
Apabila ini dikesan, pengguna Facebook dihubungkan dengan sokongan Facebook Live chat dari organisasi sokongan krisis melalui Messenger, dan dapat berbual secara real time.
IklanAdvertisementPenyokong kesedaran bunuh diri di papan
Dalam mewujudkan AI untuk pencegahan bunuh diri, Facebook berfungsi dengan organisasi kesihatan mental, termasuk Simpan. org, Kehidupan Pencegahan Bunuh Diri Nasional "1-800-273-TALK (8255)", dan Pencegahan Bunuh Diri Forefront.
Daniel J. Reidenberg, PsyD, pengarah eksekutif Save. org, berkata dia sangat gembira bahawa Facebook mengambil langkah untuk membantu usaha pencegahan bunuh diri dalam cara yang belum dilakukan sebelum ini.
"Jika kita melihat 50 atau 60 tahun yang lalu - sama ada anda bercakap tentang kemajuan dalam ubat atau rawatan untuk bunuh diri dan kesihatan mental - kita tidak melihat pengurangan atau melihat penurunan bunuh diri kerana hal-hal itu, jadi idea bahawa teknologi mungkin dapat membantu adalah peluang terbaik yang kita ada sekarang untuk menyelamatkan nyawa, "kata Reidenberg kepada Healthline.
IklanWalaupun dia mencatatkan bahawa alat AI mungkin tidak direka sepenuhnya dan mungkin menunjukkan positif palsu orang-orang yang berisiko, dia mengatakan bahawa ia adalah intervensi canggih untuk pencegahan bunuh diri yang mungkin mengambil masa untuk memahami keberkesanan.
"Sebelum AI datang, ada positif palsu dari orang yang melaporkan perkara ke Facebook yang menganggap seorang rakan mungkin bunuh diri. AI hanya mempercepatkan proses untuk membantu menghapuskan beberapa positif palsu dan benar-benar mengambil pada mereka yang benar-benar berisiko, "kata Reidenberg.
AdvertisementAdvertisementDia menambah bahawa orang menunjukkan tanda-tanda kecenderungan bunuh diri di media sosial, dan ini bukan perkara baik atau buruk.
"Media sosial adalah di mana orang hidup dalam kehidupan mereka hari ini. Bertahun-tahun yang lalu, mereka tinggal di taman atau di rehat atau menulis nota antara satu sama lain, mungkin berkongsi melalui telefon. Semakin ramai orang menjalani hidup mereka di media sosial, mereka berkongsi detik-detik bahagia dan cabaran yang mereka hadapi, "katanya.
Perubahan itu, tambahnya, membolehkan orang ramai mencapai ratusan dan ratusan orang pada satu masa.
Reidenberg berkata jika anda melihat seseorang di media sosial yang mungkin tertekan atau berisiko untuk membahayakan diri, menjangkau mereka dengan mesej, teks, atau panggilan telefon jika anda sahabat rapat. Facebook juga menawarkan teks pra-penduduk untuk memudahkan untuk memulakan perbualan.
Jika anda tidak merasa selesa dengan pendekatan itu, Reidberg menyarankan penggunaan fungsi pelaporan di Facebook.
"Ini adalah perkara yang mudah dan cepat untuk dilakukan. Teknologi ini tidak boleh melakukan ini sahaja. Kita perlukan orang untuk terlibat. Tidak melakukan sesuatu adalah perkara paling buruk yang boleh berlaku, "katanya.
Bagaimana dengan isu privasi?
Selain daripada niat baik, sukar untuk tidak menyerang privasi.
Charles Lee Mudd Jr, seorang peguam dan prinsipal privasi di Mudd Law, mengatakan bahawa pengimbasan Facebook untuk kata kunci tidak boleh dianggap sebagai pelanggaran privasi jika ia telah didedahkan sebelumnya.
"Selagi Facebook mendedahkannya mengkaji semula kandungan itu, saya tidak melihat kebimbangan privasi sebenar," kata Mudd kepada Healthline. "Orang harus memahami bahawa apa-apa yang diterbitkan di mana saja di internet, termasuk melalui e-mel - swasta atau tidak - atau media sosial, boleh mencari cara untuk penerima yang tidak diinginkan.Sekurang-kurangnya jika Facebook membolehkan kami tahu ia mempunyai robot yang membaca surat kami - atau sekurang-kurangnya mengimbas kata kunci atau frasa - kami boleh menyesuaikan kelakuan kami sekiranya perlu untuk melakukannya. "
Walaupun secara sah Facebook mungkin jelas, sama ada ia bertindak secara etika untuk perdebatan.
Keshav Malani, pengasas bersama Powr of You, sebuah syarikat yang membantu orang membuat wang dari kehadiran digital mereka, mengatakan tidak kira niat Facebook, setiap orang harus bebas untuk memutuskan bagaimana data peribadi mereka digunakan.
"Atau, ia adalah kecerunan licik pada apa yang dianggap 'baik' dan 'buruk' menggunakan maklumat peribadi yang kita kongsi di platform seperti Facebook. Juga, niat tidak mencukupi, kerana bias dalam data boleh menyebabkan tuntutan yang tidak sah atau berbahaya daripada analisis korelasi sejarah yang asas sahaja, "kata Malani kepada Healthline.
Dia menambahkan bahawa AI hanya sebanding dengan data yang diterima sebagai input.
"Platform individu seperti Facebook cuba untuk menganggap mereka tahu anda cukup untuk membuat kesimpulan mengenai kesejahteraan anda akan menjadi naif. Facebook, atau mana-mana saluran media lain untuk perkara itu, hanya meliputi sebahagian kecil daripada kehidupan kita, dan sering melukis gambar yang kita pilih untuk dikongsi, jadi menarik kesimpulan dari sumber data yang terhad dan mungkin bias perlu dilakukan dengan berhati-hati, " katanya.
Namun, Reidenberg berkata orang tidak boleh takut Facebook menggunakan AI.
"Ini bukan Facebook yang mengejar orang atau masuk ke dalam perniagaan orang," katanya. "Ia menggunakan teknologi dan orang ramai untuk menyelamatkan nyawa orang," katanya. "Percayalah, jika anda mempunyai orang yang tersayang dalam krisis, anda mahu semua dilakukan untuk mereka, sama ada anda berada di dalam bilik kecemasan atau dalam talian. "
Malah, dia berharap lebih banyak teknologi boleh campur tangan dengan orang-orang yang mengalami krisis.
"Apabila seseorang sedang dalam krisis, pilihan dan alternatif akan hilang dari mereka. Mereka menjadi sangat tertumpu pada apa yang berlaku pada masa itu dan mereka tidak mempunyai alat yang diperlukan untuk meneruskannya, "katanya.
Teknologi pada bila-bila masa boleh membantu memberikan orang lebih banyak pilihan, kata Reidenberg yang kurang mereka akan mengalami krisis. Dia ingin melihat teknologi membuat lebih banyak cara untuk mengenal pasti orang yang berisiko sebelum mereka berisiko, katakan, kemurungan. Sebagai contoh, dia mengatakan bahawa jika kita tahu bahawa ketika kita menjadi lebih tertekan yang kita berinteraksi dengan lebih sedikit, mengasingkan lebih banyak, menarik diri lebih banyak, kurang tenaga, dan berbicara dan menulis secara berbeza, maka teknologi pengaturcaraan untuk melihat perubahan ini dapat bermanfaat.
"Katakanlah anda adalah poster biasa di Facebook, tetapi kemudian anda semakin tertekan dalam kehidupan dan aktiviti anda turun perlahan-lahan. Kemudian anda mula menghantar gambar di Instagram seseorang yang sangat sedih atau hari yang suram di luar. Jika kita boleh mendapatkan teknologi untuk mengambil apa yang berlaku kepada anda dalam hidup anda berdasarkan tingkah laku anda dalam talian, kami boleh mula memberi anda perkara seperti sumber atau sokongan, dan mungkin kami boleh mengubahnya, "kata Reidenberg.
Zuckerberg berkongsi sentimen yang sama dalam jawatannya, merujuk kepada rancangan masa depan untuk menggunakan AI dengan cara lain.
"Ada banyak lagi yang boleh kita lakukan untuk memperbaiki ini," katanya. "Pada masa akan datang, AI dapat memahami lebih banyak bahasa yang halus, dan dapat mengenal pasti isu-isu yang berbeza di luar bunuh diri, termasuk dengan cepat melihat lebih banyak jenis buli dan benci. "
