Startup AI, Anthropic, mengubah kebijakannya untuk mengizinkan anak di bawah umur menggunakan sistem AI generatifnya – setidaknya dalam keadaan tertentu.
Diumumkan dalam sebuah posting di blog resmi perusahaan pada hari Jumat, Anthropic akan mulai membiarkan remaja dan praremaja menggunakan aplikasi pihak ketiga (tetapi bukan aplikasinya sendiri) yang didukung oleh model AI-nya selama pengembang aplikasi tersebut menerapkan fitur keselamatan tertentu dan mengungkapkan kepada pengguna teknologi Antropik mana yang mereka manfaatkan.
Dalam artikel dukungannya, Anthropic mencantumkan beberapa langkah keselamatan yang harus disertakan oleh pengembang yang membuat aplikasi bertenaga AI untuk anak di bawah umur, seperti sistem verifikasi usia, moderasi dan pemfilteran konten, serta sumber daya pendidikan tentang penggunaan AI yang “aman dan bertanggung jawab” untuk anak di bawah umur. Perusahaan juga mengatakan bahwa mereka mungkin menyediakan “langkah-langkah teknis” yang dimaksudkan untuk menyesuaikan pengalaman produk AI untuk anak di bawah umur, seperti “perintah sistem keselamatan anak” yang harus diterapkan oleh pengembang yang menargetkan anak di bawah umur.
Pengembang yang menggunakan model AI Anthropic juga harus mematuhi peraturan keselamatan anak dan privasi data yang “berlaku” seperti Undang-Undang Perlindungan Privasi Online Anak-anak (COPPA), undang-undang federal AS yang melindungi privasi online anak-anak di bawah 13 tahun. Anthropic mengatakan pihaknya berencana untuk mengaudit kepatuhan aplikasi secara “berkala”, menangguhkan atau menghentikan akun pengguna yang berulang kali melanggar persyaratan kepatuhan, dan mengamanatkan agar pengembang “menyatakan dengan jelas” di situs atau dokumentasi publik bahwa mereka telah mematuhinya.
“Ada kasus penggunaan tertentu di mana alat AI dapat menawarkan manfaat yang signifikan bagi pengguna yang lebih muda, seperti persiapan ujian atau dukungan bimbingan belajar,” tulis Anthropic dalam postingannya. “Dengan mengingat hal ini, kebijakan kami yang diperbarui memungkinkan organisasi untuk memasukkan API kami ke dalam produk mereka untuk anak di bawah umur.”
Perubahan kebijakan Anthropic terjadi ketika anak-anak dan remaja semakin beralih ke alat AI generatif untuk membantu tidak hanya mengerjakan tugas sekolah tetapi juga masalah pribadi, dan ketika vendor AI generatif saingannya — termasuk Google dan OpenAI — mengeksplorasi lebih banyak kasus penggunaan yang ditujukan untuk anak-anak. Tahun ini, OpenAI membentuk tim baru untuk mempelajari keselamatan anak dan mengumumkan kemitraan dengan Common Sense Media untuk berkolaborasi dalam pedoman AI ramah anak. Dan Google menjadikan chatbot-nya Bard, sejak berganti nama menjadi Gemini, tersedia untuk remaja dalam bahasa Inggris di wilayah tertentu.
Menurut jajak pendapat dari Center for Democracy and Technology, 29% anak-anak melaporkan pernah menggunakan AI generatif seperti ChatGPT OpenAI untuk mengatasi masalah kecemasan atau kesehatan mental, 22% untuk masalah dengan teman, dan 16% untuk konflik keluarga.
Musim panas lalu, sekolah dan perguruan tinggi segera melarang aplikasi AI generatif – khususnya ChatGPT – karena kekhawatiran akan plagiarisme dan misinformasi. Sejak itu, beberapa orang telah mencabut larangan mereka. Namun tidak semua orang yakin akan potensi manfaat AI generatif, berdasarkan survei yang dilakukan oleh Safer Internet Centre di Inggris, yang menemukan bahwa lebih dari separuh anak-anak (53%) melaporkan pernah melihat orang-orang seusia mereka menggunakan AI generatif dengan cara yang negatif — misalnya menciptakan informasi atau gambar palsu yang dapat dipercaya dan digunakan untuk membuat marah seseorang (termasuk deepfake pornografi).
Permintaan akan pedoman mengenai penggunaan AI generatif oleh anak-anak semakin meningkat.
Organisasi Pendidikan, Ilmu Pengetahuan dan Kebudayaan PBB (UNESCO) akhir tahun lalu mendorong pemerintah untuk mengatur penggunaan AI generatif dalam pendidikan, termasuk menerapkan batasan usia bagi pengguna dan batasan perlindungan data dan privasi pengguna. “AI generatif bisa menjadi peluang besar bagi pembangunan manusia, namun juga bisa menimbulkan kerugian dan prasangka,” kata Audrey Azoulay, direktur jenderal UNESCO, dalam siaran persnya. “Hal ini tidak dapat diintegrasikan ke dalam pendidikan tanpa keterlibatan masyarakat dan perlindungan serta peraturan yang diperlukan dari pemerintah.”