Waspadai Halusinasi dan Informasi Keliru
Salah satu persoalan yang perlu mendapat perhatian serius adalah fenomena AI hallucination atau halusinasi AI.
Fenomena tersebut terjadi ketika sistem kecerdasan buatan menghasilkan informasi yang terlihat masuk akal dan meyakinkan, tetapi sebenarnya tidak sesuai dengan fakta.
Dalam praktik jurnalistik, kondisi itu dapat menimbulkan persoalan apabila wartawan menggunakan hasil keluaran AI tanpa memeriksa kebenaran informasi maupun sumbernya.
Selain halusinasi, penggunaan AI juga memiliki risiko lain, seperti penyebaran misinformasi, disinformasi, dan bias algoritma.
Risiko tersebut dapat memengaruhi kualitas informasi yang diterima masyarakat, terutama ketika teknologi digunakan untuk menyusun berita mengenai persoalan yang sensitif atau berkaitan dengan kepentingan publik.
"AI posisinya sebagai alat bantu. Hasil yang diberikan tetap harus diperiksa, diverifikasi, dan dikontrol oleh manusia. Jangan sampai karena terlalu mudah menggunakan AI, kita justru kehilangan daya kritis dan kemampuan jurnalistik," tegasnya.
Haresti menekankan bahwa kecepatan teknologi dalam mengolah informasi tidak boleh dijadikan alasan untuk mengabaikan pemeriksaan fakta.
