Jaksa Agung AS Desak Raksasa AI Atasi 'Output Delusional' Demi Keamanan Pengguna

Sejumlah Jaksa Agung negara bagian di Amerika Serikat telah mengeluarkan peringatan keras kepada para pemimpin industri kecerdasan buatan (AI) seperti Microsoft, OpenAI, Google, dan Meta. Peringatan ini menuntut perusahaan-perusahaan tersebut segera memperbaiki apa yang disebut sebagai 'output delusional' atau halusinasi yang dihasilkan oleh model AI mereka, serta menerapkan langkah-langkah perlindungan baru untuk menjaga pengguna dari dampak psikologis yang merugikan.

Apa Itu 'Output Delusional' dalam Konteks AI?

Istilah 'output delusional' merujuk pada respons atau informasi yang dihasilkan oleh sistem AI yang salah, tidak akurat, atau sepenuhnya dibuat-buat, meskipun disajikan dengan keyakinan seolah-olah itu adalah fakta. Fenomena ini sering disebut sebagai 'halusinasi AI'. Contohnya bisa berupa chatbot yang memberikan nasihat medis yang salah, informasi sejarah yang dipalsukan, atau saran finansial yang berisiko, yang semuanya dapat menyesatkan dan berpotensi membahayakan pengguna.

Kekhawatiran Jaksa Agung: Dampak Psikologis pada Pengguna

Para Jaksa Agung menyuarakan keprihatinan mendalam tentang potensi dampak berbahaya dari output AI yang tidak akurat ini, terutama pada kesehatan mental dan psikologis pengguna. Mereka menyoroti bahwa interaksi berkelanjutan dengan informasi yang menyesatkan dapat:

• Menciptakan kecemasan dan kebingungan: Pengguna mungkin kesulitan membedakan antara fakta dan fiksi, yang dapat menyebabkan tekanan mental.
• Mengikis kepercayaan: Jika sistem AI yang diandalkan sering memberikan informasi yang salah, kepercayaan pengguna terhadap teknologi tersebut akan menurun.
• Memicu pengambilan keputusan yang buruk: Informasi yang salah dapat mengarahkan pengguna pada keputusan yang merugikan dalam kehidupan pribadi, keuangan, atau kesehatan mereka.

Surat peringatan tersebut secara khusus meminta perusahaan untuk melembagakan "pengamanan baru" guna memastikan pengguna terlindungi dari dampak tersebut.

Perusahaan AI yang Mendapat Peringatan

Surat peringatan ini ditujukan kepada beberapa pemain utama dalam pengembangan AI generatif, termasuk:

• Microsoft: Dengan investasi besar di OpenAI dan integrasi AI ke dalam produknya.
• OpenAI: Pengembang ChatGPT, salah satu chatbot AI paling populer.
• Google: Dengan model Gemini dan berbagai inisiatif AI lainnya.
• Meta: Perusahaan induk Facebook dan Instagram, yang juga berinvestasi besar di AI.

Peringatan ini mengindikasikan bahwa regulator semakin serius menyoroti tanggung jawab perusahaan teknologi atas output dari produk AI mereka.

Seruan untuk Tanggung Jawab dan Transparansi

Langkah para Jaksa Agung ini adalah bagian dari dorongan yang lebih luas untuk meningkatkan akuntabilitas dan transparansi dalam industri AI. Mereka menuntut agar perusahaan AI mengambil tindakan proaktif untuk:

1. Meningkatkan akurasi: Mengembangkan model AI yang lebih andal dan mengurangi frekuensi halusinasi.
2. Menyertakan peringatan yang jelas: Memberi tahu pengguna tentang potensi keterbatasan atau ketidakakuratan output AI.
3. Memperbaiki mekanisme koreksi: Memungkinkan pengguna untuk melaporkan kesalahan dengan mudah dan memastikan perusahaan menindaklanjutinya.
4. Berinvestasi dalam penelitian etika AI: Memahami dan mengatasi bias serta potensi bahaya psikologis dari teknologi AI.

Masa Depan Regulasi AI

Peringatan dari Jaksa Agung negara bagian ini menambah tekanan pada perusahaan AI untuk mempercepat upaya mereka dalam mengembangkan teknologi yang lebih aman dan bertanggung jawab. Ini juga mengisyaratkan bahwa pemerintah di berbagai tingkatan kemungkinan akan mengambil peran yang lebih aktif dalam membentuk regulasi dan standar untuk penggunaan AI, terutama dalam aspek perlindungan konsumen dan kesehatan publik. Industri AI kini dihadapkan pada tantangan untuk berinovasi sambil memastikan integritas dan keamanan produk mereka.