Ken Paxton, jaksa agung di Texas, sedang melakukan penyelidikan terhadap platform Instagram dan Reddit terkait masalah keamanan data anak muda. Selain dua platform tersebut, Kejaksaan Agung Texas juga sedang menyelidiki Character.AI dan 14 perusahaan teknologi lainnya untuk hal yang sama. Tujuan dari investigasi ini adalah untuk menilai apakah platform-platform ini mematuhi undang-undang privasi dan keamanan anak di Texas. Perusahaan-perusahaan teknologi di Texas harus patuh terhadap dua undang-undang utama yang berkaitan dengan perlindungan privasi dan keamanan anak – yaitu Undang-Undang SCOPE dan Undang-Undang DPSA. Dua undang-undang ini bertujuan untuk memastikan bahwa data pengguna remaja aman dari akses yang tidak sah di platform jejaring sosial.
“Perusahaan teknologi harus menyadari bahwa kami sangat serius dalam menegakkan undang-undang privasi data di Texas. Investigasi ini merupakan langkah penting untuk memastikan bahwa perusahaan media sosial dan perusahaan AI mematuhi undang-undang kami yang bertujuan melindungi anak-anak dari eksploitasi dan bahaya,” ujar Jaksa Agung Ken Paxton seperti dilansir oleh Android Headlines pada Senin (16/12/2024).
Khususnya, Character.AI telah terlibat dalam beberapa kontroversi. Platform ini memungkinkan pengguna untuk membuat karakter chatbot AI generatif yang dapat digunakan untuk berkomunikasi. Sebuah kasus di Florida melibatkan seorang anak laki-laki berusia 14 tahun yang terlibat secara romantis dengan chatbot dari Character.AI. Anak tersebut bahkan mengungkapkan pemikiran untuk bunuh diri kepada chatbot tersebut.
Untuk meningkatkan perlindungan anak, perusahaan telah memperkenalkan beberapa alat keamanan baru, termasuk model terpisah untuk remaja yang dapat memblokir input dan output pada topik sensitif. Fitur pemberitahuan notifikasi juga diperkenalkan untuk mengingatkan pengguna remaja tentang penggunaan yang terus menerus.
Investigasi terbaru ini dilakukan setelah gugatan AG Paxton terhadap TikTok karena diduga melanggar persyaratan keamanan dan privasi Texas untuk anak di bawah umur. Gugatan tersebut juga menyoroti ketidakmasukan fitur Family Pairing TikTok yang memungkinkan remaja untuk menolak hak orang tua mereka dalam memantau dan mengontrol aktivitas mereka di platform tersebut.
Dengan adanya investigasi ini, diharapkan platform-platform teknologi dapat lebih memperhatikan keamanan dan privasi anak-anak dalam penggunaan layanan mereka. Semua pihak harus bekerja sama untuk menciptakan lingkungan online yang aman dan terlindungi bagi generasi muda.