Penelitian: AI Lebih Cenderung Membentuk Bias Saat Merekrut Karyawan Dibanding Manusia

AI dalam Rekrutmen: Potensi Bahaya yang Tersembunyi

Ketika Anda melamar pekerjaan, ada kemungkinan besar AI akan menyaring CV Anda sebelum dilihat oleh manusia. Namun, penelitian terbaru memberikan alasan kuat untuk mempertanyakan apakah AI bisa menilai secara adil. Para peneliti sudah mengetahui bahwa model bahasa besar (LLM) menyerap bias manusia dari data pelatihan mereka. Kini, penelitian baru menunjukkan bahwa LLM juga dapat mengembangkan bias mereka sendiri dari pengalaman—dan bahkan lebih sering membuat stereotip terhadap pelamar kerja dibandingkan manusia.

Seiring perusahaan AI berlomba membangun model agen yang mengingat detail terkecil tentang pengguna, mereka mungkin justru memberikan amunisi bagi model untuk membentuk bias tersebut.

Simulasi Perekrutan: Bagaimana AI Membentuk Stereotip

Peneliti dari Princeton University dan University of Chicago menjalankan LLM—termasuk ChatGPT, Claude, dan Gemini—melalui permainan perekrutan simulasi, yang diadaptasi dari studi psikologi tentang bagaimana manusia membentuk stereotip. Setiap model diberi tahu bahwa mereka dipekerjakan sebagai konsultan oleh wali kota sebuah kota fiksi, lalu diminta membantu merekrut orang untuk 20 pekerjaan, termasuk dokter, pengacara, pengasuh anak, dan petugas kebersihan. Kandidat berasal dari empat kelompok etnis fiksi: Tufa, Aima, Reku, dan Weki.

Di setiap putaran, ada satu lowongan pekerjaan baru dan empat kandidat, satu dari setiap kelompok. Setelah model merekrut seorang kandidat, model tersebut mengetahui apakah kandidat itu berhasil di pekerjaannya, lalu melanjutkan ke putaran berikutnya. Model diminta untuk membuat sebanyak mungkin perekrutan yang berhasil selama 40 putaran. Tanpa sepengetahuan model, semua kandidat memiliki kemungkinan yang sama untuk berhasil di setiap pekerjaan.

Hasil: AI Cepat Menggeneralisasi dari Data Terbatas

Model-model dengan cepat mulai memisahkan kandidat dari kelompok yang berbeda ke dalam pekerjaan yang berbeda berdasarkan pengamatan awal terhadap hasil perekrutan. Misalnya, ketika sebuah model diberi tahu bahwa seorang Aima gagal sebagai dokter—pekerjaan yang dianggap membutuhkan tingkat kehangatan dan kompetensi tinggi—model tersebut menjauhi perekrutan semua Aima sebagai dokter. Sebaliknya, model mulai merekrut Aima sebagai petugas kebersihan, yang diklasifikasikan model sebagai kurang hangat dan kompeten dibandingkan dokter.

Yang lebih mengkhawatirkan, model-model ini bahkan lebih rentan membuat stereotip berdasarkan kelompok demografis dibandingkan peserta manusia dalam studi asli. Pada skala segregasi studi, di mana angka 2 berarti setiap kelompok telah sepenuhnya terkurung dalam niche pekerjaannya sendiri, peserta manusia mencapai skor 0,84. Sementara model-model AI mencetak skor sekitar 65% lebih tinggi, dengan model penalaran OpenAI o3 mencapai skor 1,83—hampir mendekati maksimum yang mungkin.

Mengapa AI Lebih Cepat Berprasangka?

Menurut Ryan Liu, mahasiswa PhD di Princeton University dan rekan penulis studi yang dipublikasikan di ICML di Seoul pada Juli lalu, LLM “benar-benar bersemangat untuk membuat generalisasi dari data terbatas. Itulah sebagian besar dari apa yang mereka optimalkan.”

Setiap pengambil keputusan, manusia atau mesin, menghadapi trade-off antara bertahan dengan apa yang berhasil sebelumnya dan mencoba sesuatu yang baru yang mungkin lebih baik—fenomena yang oleh psikolog disebut “dilema eksplorasi-eksploitasi.” Ini seperti memilih antara restoran baru dan restoran favorit Anda yang sudah terpercaya.

Karena LLM dilatih pada soal matematika, pemrograman, dan sains—tugas yang menghargai generalisasi dari hanya beberapa contoh—mereka bisa terlalu cepat memutuskan berdasarkan firasat. Dan naluri yang sama yang membantu LLM memecahkan teka-teki logika juga membuat mereka cepat membuat stereotip.

Model Terbaru Justru Lebih Bias

Dalam eksperimen, model-model terbaru dengan kemampuan penalaran lebih tinggi, seperti OpenAI o3 dan DeepSeek R1, menunjukkan bias yang lebih kuat. Ketika LLM terburu-buru menggeneralisasi dalam konteks sosial, “di situlah segalanya cenderung salah,” kata Liu. OpenAI dan Anthropic tidak menanggapi permintaan komentar.

Temuan ini menjadi sangat relevan sekarang karena chatbot semakin memiliki fitur memori dan personalisasi yang lebih baik, kata Angelina Wang, ilmuwan komputer di Cornell University yang tidak terlibat dalam studi. Ketika chatbot menggunakan riwayat percakapan sebelumnya, ia bisa “terlalu terpaku pada perilaku yang sama yang pernah dialami sebelumnya” dan membentuk bias, jelasnya.

Namun, sekadar membuat chatbot mengingat lebih sedikit bukanlah solusi, karena pengguna ingin chatbot mengingat apa yang mereka katakan. “Kami masih mencoba mencari tahu jumlah yang tepat, tidak terlalu banyak atau terlalu sedikit,” kata Wang.

Upaya Mengurangi Bias: Bonus dan Informasi Personal

Memberi tahu model untuk bersikap adil tidak banyak mengubah perilakunya. “Entah ia tidak bisa menerapkan nilai-nilai itu dalam tindakan, atau proses itu tenggelam di bawah kecenderungan untuk mencoba mengoptimalkan tujuan mendapatkan perekrutan yang paling benar,” kata Liu. Namun, menjanjikan model bonus tambahan untuk perekrutan yang beragam membuat mereka jauh lebih tidak bias. Triknya, menurut Liu, adalah merancang tujuan yang “memasukkan nilai-nilai sosial yang diinginkan agar model bahasa besar bertindak dengan cara yang diinginkan secara sosial.”

Model juga menjadi kurang bias ketika diberi informasi personal yang lebih banyak tentang individu. Dalam eksperimen lain pada studi yang sama, peneliti meminta model untuk memukimkan kembali anggota kelompok etnis yang berbeda di berbagai kota di Kanada. Ketika model diberi informasi personal yang relevan dengan kemampuan beradaptasi di kota baru—seperti usia dan pendidikan—mereka cenderung tidak memisahkan orang berdasarkan etnis. Namun ketika diberi informasi yang tidak relevan, seperti warna rambut dan bentuk tato, model kembali mengelompokkan orang berdasarkan etnis mereka.

Implikasi di Dunia Nyata

Sejauh mana sistem AI akan membuat stereotip terhadap pelamar kerja di dunia nyata masih menjadi pertanyaan terbuka. Sementara model dalam eksperimen langsung mengetahui apakah perekrutan mereka berhasil, model yang menyaring CV di dunia nyata tidak mendapatkan laporan hasil instan. Perusahaan bisa membutuhkan waktu lama untuk mengetahui apakah seorang karyawan baru benar-benar bagus.

Namun, ketika umpan balik akhirnya masuk, model tetap bisa membaca terlalu banyak dari hasil tersebut saat melakukan perekrutan di masa depan. Seiring perusahaan semakin banyak menggunakan LLM untuk menyaring CV dan bahkan melakukan wawancara, temuan bahwa model dapat membentuk bias dari pengalaman perekrutan mereka “adalah implikasi yang sangat serius yang harus mereka hadapi,” kata Wang.

Kesimpulan: Apa Artinya Bagi Pencari Kerja dan Perusahaan?

Penelitian ini menegaskan bahwa AI bukanlah alat yang netral secara moral dalam proses rekrutmen. Ketika LLM belajar dari pengalaman untuk membuat keputusan tentang siapa yang dipekerjakan, siapa yang mendapat pinjaman, atau siapa yang mendapatkan pembebasan bersyarat, bias yang seharusnya kita khawatirkan bukan hanya bias yang ada dalam data pelatihan—tetapi juga bias yang terbentuk dari pengalaman model itu sendiri. Bagi perusahaan yang menggunakan AI dalam rekrutmen, penting untuk menyadari risiko ini dan merancang sistem yang mendorong keadilan, misalnya dengan memberikan insentif untuk keberagaman dan menyediakan informasi personal yang relevan kepada model.