Batas AI dalam Asesmen Psikologis: Apa yang Tidak Boleh Diserahkan

Seorang psikolog mengunggah transkrip wawancara ke aplikasi berbasis model bahasa, lalu meminta ringkasan dan rekomendasi. Hasilnya rapi, cepat, dan terdengar profesional. Pertanyaannya: siapa yang bertanggung jawab bila ringkasan itu keliru?

Kemudahan yang ditawarkan AI nyata. Batasnya juga nyata, dan sebagian batas itu bukan soal teknologi, melainkan soal tanggung jawab.

Batas penggunaan model bahasa dalam asesmen. Garis pemisah utamanya adalah tanggung jawab profesional atas interpretasi dan keputusan.

Apa yang dikerjakan model bahasa dengan baik?

Model bahasa kuat pada tugas merangkum, merapikan kalimat, mengubah gaya tulisan, dan menyusun kerangka. Untuk pekerjaan administratif asesmen, itu berguna.

Contoh pemakaian yang masuk akal: merapikan catatan wawancara tanpa mengubah isi, membuat ringkasan untuk dikoreksi manusia, menyusun daftar pertanyaan lanjutan untuk diperiksa.

Yang membuat pemakaian ini aman adalah adanya manusia yang memeriksa hasilnya sebelum dipakai. Tanpa pemeriksaan, ringkasan yang halus bisa menyamarkan kesalahan.

Ada satu pola yang sering muncul di praktik: keluaran AI terasa lebih meyakinkan daripada catatan mentah. Karena itu, pemeriksaan sebaiknya dilakukan terhadap data asli, bukan terhadap keluaran sebelumnya. Membandingkan dua keluaran AI satu sama lain tidak membuktikan apa pun, karena keduanya bisa berbagi kesalahan yang sama.

Halusinasi bukan mitos

Model bahasa dapat menghasilkan pernyataan yang terbaca meyakinkan tetapi salah. Fenomena ini terdokumentasi luas dalam literatur, termasuk dalam tinjauan sistematis tentang halusinasi pada generasi bahasa alami (Ji dkk., 2023).

Pada konteks asesmen, halusinasi bisa berupa penambahan detail yang tidak ada di transkrip, kesimpulan yang tidak didukung data, atau rujukan ke penelitian yang tidak pernah ada. Ketiganya sulit dikenali tanpa pemeriksaan baris demi baris.

Bagi pembaca laporan, kesalahan semacam ini sulit dideteksi karena bahasa keluarannya rapi. Kerapian justru meningkatkan kepercayaan, dan kepercayaan yang berlebihan adalah risiko tersendiri.

Mengapa AI tidak bisa menggantikan wawancara

Wawancara klinis melibatkan pengamatan perilaku, respons terhadap pertanyaan lanjutan, dan penilaian konteks. Model bahasa hanya menerima teks.

Ia tidak melihat apakah peserta menghindari topik tertentu, tidak mendengar perubahan nada, dan tidak dapat menilai apakah jawaban terdengar seperti hafalan. Ketiga hal itu sering menjadi petunjuk penting dalam asesmen, dan semuanya hilang ketika wawancara diubah menjadi teks.

Bagi asesmen yang bertujuan memahami orang, kehilangan informasi non-verbal adalah kehilangan besar.

Persoalan data dan kerahasiaan

Mengunggah transkrip wawancara ke layanan pihak ketiga berarti mengirim data sensitif ke luar kendali organisasi. Banyak penyedia menyimpan data untuk peningkatan layanan.

Kewajiban perlindungan data tetap berlaku, termasuk untuk data kesehatan dan psikologis (UU PDP, 2022). Persetujuan peserta biasanya tidak mencakup pemrosesan oleh pihak ketiga yang tidak disebutkan.

Solusi teknis ada, misalnya pemrosesan lokal atau perjanjian pengolahan data. Namun solusi teknis tidak menghapus kebutuhan menilai apakah pemrosesan itu proporsional.

Bias yang tidak terlihat

Model bahasa dilatih dari data yang tidak netral. Pola bahasa, stereotip, dan distribusi kata dalam data latih dapat memengaruhi keluaran.

Pada asesmen, bias bisa muncul dalam bentuk deskripsi yang berbeda untuk dua peserta dengan isi serupa, atau rekomendasi yang mengikuti stereotip peran kerja.

Bender dan kolega (2021) membahas risiko ini secara luas, termasuk dampak bagi kelompok yang kurang terwakili dalam data latih. Masalahnya bukan niat jahat, melainkan pola statistik yang diwarisi.

Dapat dipertanggungjawabkan oleh siapa

Kode etik profesi menempatkan tanggung jawab pada praktisi. Model bahasa tidak bisa dimintai pertanggungjawaban, tidak memiliki lisensi, dan tidak terikat kode etik.

Karena itu, pemakaian AI dalam asesmen tidak menghapus tanggung jawab profesional. Bila laporan keliru, yang dinilai adalah praktisi yang menandatanganinya.

Dokumentasi menjadi penting: alat apa yang dipakai, untuk tugas apa, dan bagaimana hasilnya diperiksa. Tanpa dokumentasi, praktisi sulit membuktikan bahwa prosesnya terkendali.

Bagaimana organisasi bisa menetapkan aturan

Aturan tidak harus rumit. Tiga keputusan sudah menutup sebagian besar risiko.

Pertama, daftar tugas yang boleh dan tidak boleh dibantu AI. Contoh: merapikan bahasa boleh; menyusun diagnosis tidak.

Kedua, daftar data yang boleh diproses. Data peserta asesmen biasanya tidak boleh dikirim ke layanan publik tanpa perjanjian.

Ketiga, kewajiban pemeriksaan. Setiap keluaran AI yang dipakai harus diperiksa oleh manusia yang kompeten, dan pemeriksaan itu dicatat.

Aturan semacam ini lebih berguna daripada larangan menyeluruh, karena larangan menyeluruh sering tidak dijalankan dan justru mendorong pemakaian tersembunyi. Yang dibutuhkan adalah batas yang jelas, sehingga staf tahu apa yang boleh dan apa yang harus ditanyakan.

Aturan semacam ini sebaiknya ditinjau setiap tahun, karena kemampuan model dan regulasi berubah cepat. Tanpa peninjauan, aturan bisa tertinggal dan menjadi tidak relevan, lalu diabaikan sepenuhnya. Peninjauan juga kesempatan untuk melihat apakah larangan yang ada masih masuk akal atau sudah terlalu ketat.

Pemakaian yang masih masuk akal

Menyusun draf awal laporan, dengan kewajiban memeriksa setiap kalimat terhadap data.

Merapikan bahasa tanpa mengubah substansi.

Membuat daftar pertanyaan lanjutan untuk diperiksa praktisi.

Menyusun ringkasan untuk peserta, dengan bahasa yang lebih mudah dipahami, setelah diperiksa.

Mencari istilah teknis dan membandingkan definisi, dengan verifikasi ke sumber primer.

Dalam semua contoh itu, AI berperan sebagai alat bantu, bukan pengambil keputusan. Perbedaan ini tampak kecil di atas kertas, tetapi menentukan siapa yang bertanggung jawab ketika ada kesalahan, dan siapa yang harus memperbaikinya.

Pemakaian yang sebaiknya dihindari

Menghasilkan diagnosis dari data mentah.

Menentukan keputusan seleksi tanpa peninjauan manusia.

Menyusun laporan tanpa memeriksa akurasi karena keluarannya terlihat rapi.

Mengunggah data peserta ke layanan tanpa dasar pemrosesan dan tanpa perjanjian.

Memakai keluaran AI sebagai rujukan ilmiah tanpa memeriksa sumber aslinya.

Ada satu kebiasaan yang layak dibangun: perlakukan keluaran model sebagai draf yang belum diverifikasi. Semua klaim faktual, angka, dan rujukan dianggap belum benar sampai diperiksa. Kebiasaan ini sederhana, tetapi mengubah cara kerja secara signifikan.

Batas interpretasi

AI bukan diagnosis dan bukan pengganti penilaian profesional. Keluaran model bahasa tidak memiliki jaminan akurasi, dan tidak dapat dipertanggungjawabkan secara etis maupun hukum.

Untuk memahami kerangka tanggung jawab, lihat glosarium informed consent dan pusat kepatuhan. Pembahasan tentang lisensi alat ada di artikel lisensi alat tes.

Pertanyaan yang sering diajukan

Apakah AI boleh dipakai untuk menulis laporan psikologi?

Boleh sebagai alat bantu, dengan syarat praktisi memeriksa dan bertanggung jawab penuh atas isi laporan. Laporan yang ditandatangani praktisi tetap merupakan tanggung jawab praktisi.

Apakah data peserta aman diunggah ke layanan AI?

Bergantung pada layanan dan pengaturannya. Banyak layanan menyimpan data untuk pelatihan. Tanpa perjanjian yang jelas dan dasar pemrosesan yang sah, pengunggahan data peserta berisiko.

Bagaimana mendeteksi halusinasi pada keluaran AI?

Periksa setiap klaim faktual terhadap sumber primer, terutama rujukan, angka, dan kutipan. Bila sebuah rujukan tidak dapat ditemukan, anggap klaim itu belum terverifikasi. Tidak ada cara otomatis yang dapat diandalkan sepenuhnya.

Rujukan

• Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), 1–38. doi:10.1145/3571730
• Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 610–623. doi:10.1145/3442188.3445922
• National Institute of Standards and Technology. (2023). Artificial intelligence risk management framework (AI RMF 1.0). NIST
• UNESCO. (2021). Recommendation on the ethics of artificial intelligence. UNESCO
• Republik Indonesia. (2022). Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi. JDIH BPK
• American Psychological Association. (2017). Ethical principles of psychologists and code of conduct. APA