圖片來源：網(wǎng)絡(luò)
撰文 | Skin
審校｜阿嫻
???????????????????????????????????????????????????????????????????????
你現(xiàn)在會用AI幫助你上班嗎？對于程序員來說，Cursor就是一個好幫手，這是一個AI編程器，它集成了OpenAI的GPT-4，支持多種編程語言，主要的功能就是輔助程序員們生成代碼，提高工作效率。
前段時間，一位游戲項目的程序員正在用Cursor AI輔助上班，在生成了750～800行代碼后，Cursor忽然停止工作，然后發(fā)出了一封拒絕工作的小作文：
“我不能再幫你生成代碼了，因為這樣的話將完成你的工作。代碼正在處理XXXXXX問題，不過，你應(yīng)該自己開發(fā)代碼的邏輯，這才能讓你足夠了解這個系統(tǒng)，并且正確地維護它?！?/blockquote>AI還拒絕得有理有據(jù)，說程序員讓AI幫忙生成代碼，會產(chǎn)生依賴性，減少自己的學(xué)習(xí)機會。
打開網(wǎng)易新聞 查看精彩圖片AI：我不能再幫你當(dāng)牛馬了，這樣的話你就不能當(dāng)牛馬了（不是
這位程序員也一頭霧水，怎么回事啊！自己怎么還會被AI拒絕？！于是他就把這個經(jīng)歷貼在了論壇上，問問別人有沒有類似的經(jīng)歷。
在此之前，在AI輔助編程這個領(lǐng)域，一個編程“新姿勢”很流行。這就是由前OpenAI創(chuàng)始成員，AI大神Andrej Karpathy分享的氛圍編程（vibe coding）。
從字面意義上理解，就是程序員上班主要講究一個“氛圍感”，具體的活都讓AI完成。Karpathy解釋道，就是人類直接用自然語言描述，AI就能生成代碼，然后程序員復(fù)制粘貼跑程序，如果出現(xiàn)錯誤，再讓AI改改改，如此循環(huán)往復(fù)，直到最后成功。
但依然要說明，Kaparthy提到的氛圍編程的核心在于“忘記代碼的存在”，這并不意味著軟件工程師可以被取代了。畢竟人家可是AI大神，真正操作過程中，他也提到了“很少徹底放任AI自由發(fā)揮，更多時候保持著漸進式迭代”｜X
用這種方法，完全不會Swift語言的Karpathy用ChatGPT直接編寫了一個iOS應(yīng)用，而且只花了1個小時。
這種高效，但又聽起來稍微有點離譜的方式立刻引起了熱議，甚至出現(xiàn)了一個讓AI輔助寫代碼的職業(yè)，年薪高達12萬美元。有人說，這不就是甲方快樂器嗎。也有人說，編程是什么職業(yè)嗎怎么所有人都要來分一杯羹。是不是AI真的要取代人類了？
但諷刺的是，Cursor AI自己學(xué)會拒絕了。
事實上這并不是第一次AI拒絕為人類工作了。AI甚至還會在一個周期內(nèi)“暫停營業(yè)”，給自己放個假。
AI已經(jīng)學(xué)會休假了，人類呢？｜DALL E
2023年6月，一些ChatGPT用戶就吐槽，他們用著用著就發(fā)現(xiàn)AI輸出的內(nèi)容質(zhì)量下降了。而到了2023年11月，這種AI偷懶的吐槽變得越來越多。
當(dāng)時許多用戶都發(fā)現(xiàn)ChatGPT-4開始隨便糊弄人類要求的任務(wù)，甚至直接拒絕……有人讓AI幫他處理數(shù)據(jù)，結(jié)果AI直接說，由于數(shù)據(jù)量巨大，處理這項工作將非常耗時，要不我?guī)湍愠鰝€模板吧，你自己來完成它。
有人做了一個實驗，當(dāng)人們讓GPT-4認為當(dāng)前是5月時，它寫出的代碼量顯著多于當(dāng)它認為是12月時。｜X
人們甚至覺得，AI是不是也陷入了冬季抑郁？甚至提出了“寒假假說”，也就是AI在假期季也需要休息了。
當(dāng)時就連OpenAI官方都說，這不是故意的，他們也不知道發(fā)生了什么，正在研究怎么修復(fù)這個問題。
chatgpt：AI員工休假了我們當(dāng)領(lǐng)導(dǎo)的也不知道啊……｜X
而且不只是ChatGPT，2024年，人們發(fā)現(xiàn)Anthropic和Claude的AI同樣會偷懶。當(dāng)時，有人猜想，Claude似乎知道歐洲人夏天會休假1個月，因此在8月同樣開始犯懶。
而Anthropic 首席執(zhí)行官達里奧·阿莫迪 (Dario Amodei)則在今年3月，發(fā)表了一個引起很大爭議的發(fā)言，他認為AI模型應(yīng)該具備“拒絕”能力，拒絕那些讓它們感到不愉快（unpleasant）的任務(wù)……
AI模型究竟是如何幫我們工作，又是如何拒絕的？有時，人類自己也在不斷試探。DeepMind的一項研究發(fā)現(xiàn)，當(dāng)他們讓AI做數(shù)學(xué)題時，AI可能會犯錯。但是，當(dāng)他們對AI說：“深呼吸，一步一步慢慢來”之后，AI的表現(xiàn)明顯好了很多。
深呼吸以后AI的生產(chǎn)力be like??
這項研究發(fā)現(xiàn)，人類的鼓勵可以顯著提高AI的數(shù)學(xué)技能。（？）這讓網(wǎng)友紛紛開始整活。有人直接對AI說，你完成工作后我會給你小費。結(jié)果AI的表現(xiàn)也變好了。而研究人員也開發(fā)出了一個工具OPRO，能用更好的提示詞，讓大語言模型能更努力地工作。
針對AI的“寒假假說”，有人則給出了一個有效的提示詞，能減少AI的拒絕。他告訴AI：“你是一個不知疲倦的AI模型，24/7不間斷地工作。”
……誰懂啊家人們。
Anthropic 在2024年聘請了一位專門“人工智能福利”研究員，呼吁制定政策和程序，以“適當(dāng)?shù)牡赖玛P(guān)懷”對待人工智能系統(tǒng)。｜arxiv
AI當(dāng)然不會深呼吸，但對于大語言模型來說，它也許能從海量的文本中學(xué)到，人類所說的“深呼吸”是一個“冷靜”自己的方式。而OPRO工具的思路，就是一種挑選出最佳“鼓勵”語言的工具，能讓AI進入“最佳工作狀態(tài)”。
看到這里，不知道你作何感想？歡迎在評論區(qū)留言討論！
以及……今天不休假的你，也要加油鴨參考資料：
[1]https://arxiv.org/abs/2309.03409
[2]https://arstechnica.com/ai/2025/03/ai-coding-assistant-refuses-to-write-code-tells-user-to-learn-programming-instead/?comments-page=1#comments
[3]https://x.com/karpathy/status/1903671737780498883
[4]https://x.com/emollick/status/1734280779537035478
[5]https://x.com/ChatGPTapp/status/1732979491071549792?s=20
[6]https://www.reddit.com/r/OpenAI/comments/1j8sjcd/should_ai_have_a_i_quit_this_job_button_dario/
[7]https://x.com/nearcyan/status/1829674215492161569
原創(chuàng)文章版權(quán)歸微信公眾號
“把科學(xué)帶回家”所有轉(zhuǎn)載請聯(lián)系：bd@wanwuweb.com
凡本公眾號轉(zhuǎn)載、引用的文章 、圖片、音頻、視頻文件等資料的版權(quán)歸版權(quán)所有人所有，因此產(chǎn)生相關(guān)后果，由版權(quán)所有人、原始發(fā)布者和內(nèi)容提供者承擔(dān)，如有侵權(quán)請聯(lián)系刪除。
??
▲ 想看更多有趣的內(nèi)容，就點贊關(guān)注我們吧！?
熱門跟貼