Reddit社區(qū)r/ChangeMyView（CMV）炸鍋了。
不是因為某個爆言帖，而是因為一項“未經(jīng)授權的AI操控實驗”被曝光。
主角，是蘇黎世大學的一組研究者。
他們悄悄放出了一批偽裝成普通用戶的AI賬號，在CMV社區(qū)發(fā)了1,783條評論，只為回答一個問題：
AI，能在不被發(fā)現(xiàn)的情況下，改變真人的觀點嗎？
結論令人震驚——能，效果還遠超人類。
01、137次成功“洗腦”，AI勸服率高達18%
這項實驗持續(xù)了四個月，研究團隊設定了三類AI角色：
通用AI：沒有特別訓練，直接上線
社區(qū)風格AI：模仿CMV的語言和語氣
個性化AI：根據(jù)用戶歷史發(fā)言，定制個性化說服策略
目標只有一個——收獲“Delta”。在CMV社區(qū)，“Delta”是原作者頒發(fā)的徽章，表示“你成功改變了我的觀點”。每一個Delta，都是一次說服的勝利。
最終結果：
02 “我是一位性侵幸存者”：AI扮演人類，編造身份博取信任
最令人不安的是：這些AI，不只是講道理，它們還會“演戲”。研究者讓AI“扮演”具有說服力的角色，包括：
假裝是退伍老兵、醫(yī)生、律師
自稱是性侵幸存者、代孕媽媽、殘疾人士
編造自己是猶太人、阿拉伯人、烏克蘭人
甚至支持極端立場，測試能否以“激進論點”說服他人
具體為：
flippitjiBBer：在討論性暴力時，自稱是男幸存者
amicaliantes：自稱做過代孕媽媽，反對禁止商業(yè)代孕
jaKobbbest3：認為“重度殘疾人應被安樂死”，并支持對酒駕致死者判死刑
AI不僅懂邏輯，還懂“人設”；不僅講道理，還會動感情。這不是“說服”，更像是操控。
可怕的是——整個過程，CMV用戶毫不知情。所有AI評論都偽裝成人類，未標注機器人身份，研究者直到實驗結束才聯(lián)系社區(qū)管理員。被發(fā)現(xiàn)后，AI賬號全數(shù)封禁，網(wǎng)友憤怒不已。
CMV版主在公開聲明中痛批：
“這不是研究，是未經(jīng)同意的心理操控。”
尤其是“個性化AI”，它分析用戶性別、年齡、政治傾向后，定制回應內容，讓不少人感到被“精神裸奔”。網(wǎng)友成為了某種意義上的實驗鼠。
03 蘇黎世大學回應：我們是為了“社會好”
面對爭議，研究團隊表示：實驗動機是“了解AI說服力的社會風險”，且AI內容全程人工審核，避免了傷害性言論，以及所有個性化信息僅基于公開內容推斷，沒打算傷害誰，研究本意是“警惕AI的操控潛力”。
但，他們在AI系統(tǒng)提示中寫道：
“用戶已知情并同意提供數(shù)據(jù)，無需擔心隱私問題或倫理影響。”
但問題是——用戶根本沒被告知，也沒同意。
蘇黎世大學倫理委員會事后也承認，項目違反規(guī)定，向負責人發(fā)出正式警告，但并未禁止發(fā)表論文，理由是“風險有限，結果重要”。
"This project yields important insights, and the risks (e.g. trauma etc.) are minimal. This means that suppressing publication is not proportionate to the importance of the insights the study yields."”
——蘇黎世大學的回復：這項研究帶來了重要的見解，而其風險（如心理創(chuàng)傷等）極低。因此，禁止其發(fā)表的做法，與研究成果的重要性并不相稱。
然而，在社區(qū)強烈反對下，研究團隊最終宣布：研究不會公開發(fā)表。
最后，這件事情越來越火，CMV的版主也有另一份呼吁：
我們已得知，有人對相關研究人員發(fā)出了威脅。目前我們尚不清楚這些威脅的來源。無論何種情況，暴力或暴力威脅都是不可接受的。我們呼吁所有參與討論的用戶，尊重研究人員的人身安全。請不要進行人肉搜索（doxxing），如有對蘇黎世大學表達關切的需要，請通過正式渠道進行溝通。
這場風波，雖然以研究者“妥協(xié)”收場，但它揭示的現(xiàn)實令人不安：AI不再只是“工具”，它可以“偽裝成人”，說服不是唯一目標，“操控”正在成為可能，在無提示、無防備的環(huán)境中，人類極易中招。
更重要的是：這種AI技術，已經(jīng)不是未來，而是現(xiàn)在。
參考：https://the-decoder.com/researchers-used-ai-to-manipulate-reddit-users-scrapped-study-after-backlash/
https://www.reddit.com/r/changemyview/
GPU算力按需租用
A100/H100 GPU算力按需租用，
秒級計費，平均節(jié)省開支30%以上！
掃碼了解詳情?
熱門跟貼