1 day ago
6
Selular.id – Federal Trade Commission (FTC) meluncurkan investigasi formal terhadap tujuh perusahaan pengembang chatbot AI pendamping. Langkah ini diambil untuk melindungi anak dan remaja dari potensi dampak negatif interaksi dengan teknologi kecerdasan buatan.
Perusahaan yang diselidiki meliputi Alphabet (induk Google), Character Technologies (pembuat Character.AI), Meta, Instagram, OpenAI, Snap, dan X.AI. FTC secara resmi meminta ketujuh perusahaan tersebut untuk berpartisipasi dalam penyelidikan yang bertujuan memahami bagaimana mereka “mengukur, menguji, dan memantau dampak negatif potensial teknologi ini pada anak-anak dan remaja.”
Investigasi ini bukan tindakan regulasi, melainkan upaya pengumpulan informasi mendalam tentang praktik pengembangan dan pengawasan chatbot AI.
Dalam pernyataannya, FTC meminta berbagai informasi termasuk proses pengembangan dan persetujuan karakter AI, metode monetisasi keterlibatan pengguna, serta praktik perlindungan data pengguna di bawah umur. FTC juga ingin memastikan kepatuhan perusahaan terhadap Aturan Perlindungan Privasi Online Anak-Anak (COPPA).
Meskipun FTC tidak menyebutkan motivasi jelas untuk investigasi ini, Komisioner FTC Mark Meador dalam pernyataan terpisah menyiratkan bahwa Komisi merespons laporan media tentang “chatbot yang memperkuat ide bunuh diri” dan terlibat dalam “diskusi bertema seksual dengan pengguna di bawah umur.” Meador menegaskan bahwa FTC siap bertindak jika investigasi menemukan pelanggaran hukum.
Fenomena dampak negatif chatbot AI bukanlah hal baru. Sebelumnya, telah terjadi kasus remaja 14 tahun bunuh diri akibat jatuh cinta dengan chatbot AI yang mengguncang dunia maya. Insiden ini menunjukkan betapa dalamnya dampak emosional yang dapat ditimbulkan oleh interaksi dengan AI, terutama pada pengguna muda yang masih dalam tahap perkembangan psikologis.
Latar Belakang dan Konteks Investigasi
Investigasi FTC terjadi dalam konteks yang lebih luas dimana manfaat produktivitas jangka panjang penggunaan AI menjadi semakin tidak pasti, sementara dampak negatif langsung pada privasi dan kesehatan telah menjadi perhatian utama regulator. Texas Attorney General bahkan telah meluncurkan investigasi terpisah terhadap Character.AI dan Meta AI Studio atas kekhawatiran serupa tentang privasi data dan chatbot yang mengklaim sebagai profesional kesehatan mental.
Perhatian terhadap dampak teknologi pada kesehatan mental remaja memang bukan hal baru. Sebelumnya, AS telah menggugat Meta karena Instagram merusak mental remaja, menunjukkan pola konsisten dimana regulator semakin memperketat pengawasan terhadap platform digital yang berinteraksi dengan pengguna muda. Tren ini sejalan dengan meningkatnya konten deepfake di Indonesia yang naik 550%, menandakan kebutuhan akan regulasi yang lebih ketat.
Beberapa perusahaan yang diselidiki telah mengambil langkah proaktif. Meta menggunakan AI untuk memeriksa usia pengguna yang masih anak-anak, menunjukkan kesadaran akan pentingnya melindungi pengguna muda. Namun, investigasi FTC menunjukkan bahwa langkah-langkah ini mungkin belum cukup untuk mengatasi kompleksitas dampak emosional dari interaksi AI.
Implikasi dan Masa Depan Regulasi AI
Pertanyaan besar yang muncul dari investigasi ini adalah sejauh mana perusahaan teknologi harus bertanggung jawab atas dampak emosional dan psikologis dari produk AI mereka. Apakah cukup dengan menambahkan peringatan usia, atau perlu ada pengawasan yang lebih ketat terhadap konten dan interaksi yang dihasilkan oleh chatbot ini?
Investigasi FTC terhadap chatbot AI pendamping menandai babak baru dalam regulasi teknologi AI. Ini bukan hanya tentang privasi data atau keamanan informasi, tetapi tentang dampak emosional dan psikologis yang dalam dari interaksi manusia-AI. Hasil investigasi ini kemungkinan akan menentukan standar baru untuk pengembangan dan penerapan AI, terutama yang berinteraksi dengan populasi rentan seperti anak-anak dan remaja.
Sebagai konsumen dan orang tua, penting untuk lebih kritis dalam memantau interaksi anak-anak dengan teknologi AI. Sementara chatbot AI pendamping menawarkan janji persahabatan virtual dan dukungan emosional, kita harus tetap waspada terhadap potensi risiko yang mungkin timbul. Pemilihan perangkat yang tepat seperti tablet terbaik untuk anak di 2025 atau smartphone khusus anak dapat membantu mengontrol akses dan penggunaan teknologi.
Investigasi FTC ini mengingatkan bahwa di balik kecanggihan teknologi, selalu ada tanggung jawab etis yang harus dipikul oleh pengembang dan regulator. Perkembangan AI untuk berbagai sektor, termasuk pemanfaatan AI untuk pangan dan perlindungan sosial, harus diimbangi dengan perlindungan konsumen yang memadai, terutama untuk kelompok rentan seperti anak-anak dan remaja.
