Terungkap dalam laporan eksklusif ini:
- Penyelidikan chatbot 'My AI' dari Snap berakhir, dengan pelajaran untuk industri teknologi
- Kekhawatiran ICO tentang privasi anak-anak: Bagaimana Snap mengatasinya
- Pentingnya penilaian risiko proaktif untuk alat AI generatif
- Pengamanan ketat yang direkomendasikan oleh ICO untuk pengembangan AI di masa depan
- Menjelajahi peran alat bantu yang berfokus pada privasi seperti aplikasi Incognito Browser
Pengawas Perlindungan Data Inggris Mengakhiri Penyelidikan Privasi Chatbot GenAI Snap tetapi Memperingatkan Industri
Dalam sebuah perkembangan yang signifikan, pengawas perlindungan data Inggris telah menyelesaikan investigasi selama hampir satu tahun terhadap chatbot AI generatif Snap, My AI. Snap dilaporkan telah mengatasi kekhawatiran tentang risiko terhadap privasi anak-anak, yang memuaskan Kantor Komisioner Informasi (ICO). Namun, ICO mengeluarkan peringatan keras kepada industri teknologi yang lebih luas tentang perlunya menilai risiko terhadap hak-hak orang sebelum meluncurkan alat AI generatif.
Generative AI (GenAI), yang sering kali berfokus pada pembuatan konten, adalah yang menggerakkan chatbot AI Snap. Teknologi ini memungkinkan bot merespons pengguna dengan cara yang mirip manusia melalui pesan teks dan snap, sehingga memungkinkan interaksi pengguna secara otomatis. Chatbot AI Snap menggunakan ChatGPT dari OpenAI, tetapi Snap telah memasukkan beberapa perlindungan, termasuk pedoman pemrograman dan batasan usia secara default, yang bertujuan untuk menjauhkan anak-anak dari konten yang tidak pantas. Kontrol orang tua juga diintegrasikan ke dalam platform.
"Investigasi kami terhadap 'My AI' seharusnya menjadi peringatan bagi industri," tulis Stephen Almond, direktur eksekutif risiko regulasi ICO. Dia menekankan bahwa organisasi yang mengembangkan atau menggunakan AI generatif harus memprioritaskan perlindungan data sejak awal dengan menilai secara ketat dan memitigasi risiko terhadap hak-hak dan kebebasan orang sebelum membawa produk ke pasar. ICO tetap berkomitmen untuk memantau penilaian risiko dan akan menggunakan kekuatan penegakan hukumnya, termasuk denda, untuk melindungi masyarakat dari potensi bahaya.
Pada bulan Oktober, ICO mengeluarkan pemberitahuan penegakan awal kepada Snap atas kekhawatiran mengenai risiko privasi yang terkait dengan My AI. Pemberitahuan ini tampaknya mendesak Snap untuk melakukan perubahan yang signifikan. ICO mengumumkan pada hari Selasa bahwa Snap telah mengambil "langkah signifikan" untuk meninjau secara menyeluruh risiko yang ditimbulkan oleh My AI dan menerapkan mitigasi yang tepat dalam menanggapi masalah yang diangkat.
Pengawasan peraturan ini menggarisbawahi kebutuhan kritis akan langkah-langkah privasi yang kuat dalam teknologi. Sementara perusahaan seperti Snap berupaya untuk memenuhi peraturan, pengguna individu dapat mengambil langkah sendiri untuk meningkatkan privasi online. Memahami arti browser penyamaran menjadi sangat penting karena semakin banyak data pribadi yang dibagikan secara online. Menggunakan alat seperti aplikasi Incognito Browser dapat memberikan lapisan keamanan ekstra dengan mencegah pelacakan dan melindungi data sensitif selama interaksi online.
Arti mode penyamaran sering kali terbatas pada mencegah pencatatan riwayat lokal; namun, dengan aplikasi privasi tingkat lanjut seperti Incognito Browser, mode ini meluas hingga memblokir mekanisme pelacakan online yang canggih. Aplikasi Incognito Browser membantu pengguna menjaga privasi dengan membatasi data yang diambil oleh situs web dan pelacak pihak ketiga, sehingga selaras dengan prinsip-prinsip dasar yang ditekankan oleh pengawas perlindungan data seperti ICO.
Meskipun telah memenuhi persyaratan ICO, Snap belum mengungkapkan mitigasi spesifik yang diterapkannya setelah adanya intervensi dari pihak regulator. ICO berencana untuk terus mengawasi peluncuran My AI dan bagaimana risiko yang muncul dikelola.
Seorang perwakilan dari Snap menyatakan kepuasannya dengan kesimpulan ICO. "Kami senang ICO telah menerima bahwa kami telah menerapkan langkah-langkah yang tepat untuk melindungi komunitas kami saat menggunakan My AI," kata juru bicara tersebut. "Kami menyambut baik kesimpulan ICO bahwa penilaian risiko kami sepenuhnya sesuai dengan undang-undang perlindungan data Inggris."
Karena AI generatif terus menjadi prioritas penegakan hukum bagi ICO, ICO menyarankan para pengembang untuk mengikuti panduannya tentang AI dan aturan perlindungan data. Dengan konsultasi yang sedang berlangsung tentang bagaimana hukum privasi harus beradaptasi dengan model AI generatif, bisnis harus tetap waspada.
Meskipun chatbot My AI dari Snap telah berhasil mengatasi tantangan regulasi, chatbot ini hadir dengan pengingat di seluruh industri: perlindungan data proaktif dan penilaian risiko yang komprehensif adalah hal yang terpenting. Untuk pengguna sehari-hari, menggabungkan alat yang berfokus pada privasi seperti Incognito Browser dapat menjadi strategi yang efektif untuk meningkatkan keamanan online di tengah-tengah lanskap teknologi yang terus berkembang. Seiring dengan semakin ketatnya kerangka kerja regulasi seputar AI, baik pemimpin industri maupun pengguna individu harus memprioritaskan privasi-sebuah upaya yang sangat penting untuk menjaga kepercayaan di era inovasi digital ini.
