0
0
Mulai bulan depan, perusahaan yang menyediakan chatbot dan agen AI di Uni Eropa wajib memberi tahu pengguna bahwa mereka sedang berinteraksi dengan sistem buatan, bukan manusia. Aturan ini bagian dari upaya regulator Eropa untuk meningkatkan transparansi di tengah maraknya penggunaan AI dalam layanan sehari-hari.
Banyak platform chat saat ini masih membiarkan pengguna menebak-nebak apakah lawan bicaranya adalah bot atau orang sungguhan. Dengan kewajiban baru ini, setiap interaksi harus disertai pengungkapan yang jelas dan mudah dipahami. Pengguna tidak perlu lagi merasa dibohongi saat mencari bantuan layanan pelanggan atau konsultasi sederhana.
Dampak langsung yang bisa dirasakan adalah meningkatnya kepercayaan pengguna terhadap teknologi AI. Ketika orang tahu persis sedang bicara dengan mesin, mereka bisa menyesuaikan ekspektasi dan lebih berhati-hati dalam membagikan informasi pribadi. Hal ini juga mendorong pengembang untuk membuat sistem yang lebih jujur sejak awal perancangan.
Latar belakang aturan ini berasal dari kekhawatiran bahwa AI generatif bisa digunakan untuk menipu atau memanipulasi pengguna tanpa sepengetahuan mereka. Regulator ingin mencegah skenario di mana orang mengira sedang berbicara dengan manusia padahal sebenarnya sedang berhadapan dengan algoritma yang dirancang untuk menjawab pertanyaan secara otomatis.
Bagi perusahaan teknologi, perubahan ini berarti mereka harus menyesuaikan antarmuka pengguna dan pesan pembuka di semua produk chatbot mereka. Beberapa platform mungkin perlu menambahkan notifikasi tetap di layar atau suara yang mengingatkan bahwa ini adalah AI. Proses adaptasi ini bisa memakan waktu dan sumber daya, terutama bagi startup yang mengandalkan model AI pihak ketiga.
Selain itu, aturan ini juga membuka ruang diskusi tentang bagaimana standar transparansi serupa bisa diterapkan di negara lain. Uni Eropa sering menjadi acuan bagi regulasi teknologi global, sehingga kemungkinan besar negara-negara lain akan mengikuti langkah serupa dalam beberapa tahun ke depan.
Secara keseluruhan, kewajiban pelabelan ini menjadi langkah awal yang penting untuk membuat interaksi dengan AI lebih bertanggung jawab dan ramah pengguna.
