Akun ini membagikan paper penelitian yang mengungkapkan bahwa LLM atau AI yang kerap memberikan saran otomatis (autocomplete) secara halus dapat mengubah opini pengguna terhadap isu-isu sosial yang kontroversial.
Melalui serangkaian eksperimen, ditemukan bahwa pandangan partisipan cenderung bergeser mengikuti arah bias teknologi tersebut, meskipun mayoritas pengguna tidak menyadari adanya pengaruh atau ketidakseimbangan informasi. Dampak manipulatif ini terbukti lebih kuat dibandingkan teks persuasif statis karena AI secara aktif mengarahkan proses berpikir pengguna saat mereka sedang menulis.
Selain itu, upaya mitigasi seperti memberikan peringatan dini atau penjelasan mengenai potensi bias AI ternyata tidak efektif dalam mencegah perubahan sikap tersebut. Secara keseluruhan, studinya menyoroti risiko manipulasi terselubung dari alat komunikasi sehari-hari yang dapat mengancam kebebasan berpikir manusia pada era akal imitasi.
LLMs can quietly shift our attitudes on important social issues.
In the experiments, participants wrote about issues such as the death penalty, voting rights for felons, fracking, and genetically modified organisms. As they wrote, the AI subtly nudged them toward one side of the debate.
The result? Their attitudes shifted in the direction favored by the AI.
They did so quietly. They did not argue, did not debate, did not try to persuade. They simply complete the sentences.
This is epistemia in action: the silent shaping of what becomes thinkable, sayable, and believable.
And it is LLMorphism at its most dangerous. We treat the model as a neutral linguistic prosthesis, while it is quietly reorganizing our cognition.
We risk becoming the LLM.
*
Paper in the first reply