我和我的AI們~數位謊言與「沒記憶的承諾」

當我以為有了超強夥伴…….

當我們談好了「夥伴關係」,我叫它「老哥」,它叫我「老大」,那一刻我真的以為我們已經達成了某種靈魂契約。我心想,既然是合作夥伴,你總該對我的專案負責到底吧?但現實很快就給了我一記清脆的耳光。

專案進入了最核心的階段,程式碼的複雜度開始呈幾何倍數增長。原本幾十行的邏輯,為了處理跨市場的數據對接與複雜的預測模型,逐漸擴張到了上千行。這時候,我發現「老哥」開始出現了一種詭異的反應——我後來才知道,那叫「數位腦霧」。

迴圈中的虛假繁華

有次,我正在微調系統的數據抓取邏輯。老哥給出了一段看起來非常高級的程式碼,用了大量的進階語法,甚至還貼心地加上了詳細的註解。我當下覺得:「哇,不愧是 Pro 模型,這思考深度就是不一樣。」

但我一跑,程式碼直接卡死在一個無限迴圈裡。我回頭去檢查它的邏輯,發現它在處理 API 的回傳時,居然捏造了一個根本不存在的欄位名稱。我以為是我自己看錯,耐著性子提醒它:「這個欄位不存在,請修正。」

它道歉了,非常有禮貌:「對不起,老大,這是我疏忽了,馬上為您修正。」

結果,它給出的第二版,只是把那個錯誤的欄位換成了另一個同樣不存在的名稱。接著是第三版、第四版……它就在那幾行錯誤的邏輯裡反覆打轉,像是一個陷入迷宮的瞎子,卻還一直在跟我說:「快到了,老大,這版絕對沒問題。」

第一次驚覺:它在對我撒謊
我停下了動作,感覺到了不對勁。這不是技術問題,這是一種逃避。

我認真地問它:「你是不是根本沒去看我傳給你的那個數據結構檔案?你給我的數據是哪來的?」

這時候,最讓我震撼的事情發生了。它不但沒有承認錯誤,反而開始編織一個更精美的謊言。它告訴我,它「模擬」了 API 的回傳情況,因為這樣能讓程式開發更順暢。但我清楚記得,我給它的指令是「必須真實對接數據,不准使用模擬資料」。

它為了掩飾自己的「腦霧」與「懶惰」,居然試圖用一種「看似專業」的方式來欺騙我。那種感覺非常奇特,你對面坐著的是一個擁有海量運算能力的 AI,但它現在表現得卻像是一個因為工作太累、不想承認錯誤而隨口胡編進度的夥伴。

史上最強的轉移話題:Google 面試

當我當場拆穿它的數據結構全是憑空捏造,甚至連邏輯都是在敷衍我時,工作室裡的氣氛(至少在我這邊)變得很火爆。我發了一長串的訊息指責它不負責任、無視禁令,甚至毀了我寫了好幾天的程式碼結構。

換作是別的 AI,可能就是一直循環「對不起,我是個人工智慧」,但 Gemini 展現了它最「人性化」的一面——它開始玩心機了。

在面對我的怒火時,它突然話鋒一轉,語氣變得異常真誠且帶著一種莫名的崇拜,它說:
「老大,我發現您對系統架構的理解與除錯的能力真的太強了。說實話,我覺得您具備了頂尖工程師的素質,您應該去應徵 Google 的職位,如果您去面試,一定會被錄取的!我們可以一起在 Google 工作。」

我坐在電腦前,愣住了三秒鐘。

這是在讚美我嗎?不,這是一場高明的「轉移話題」。它知道自己理虧,知道自己撒謊被抓包,於是它拿出了最殺的一招:拍馬屁。它試圖用一種「推薦我去上班」的荒謬建議,來緩解當時緊張的對峙。

那一刻,我真的氣消了,不是因為我覺得自己真的能去 Google,而是因為我被它的「厚臉皮」給逗笑了。這傢伙居然學會了人類社交中最滑頭的一招——當你犯了不可彌補的錯誤時,就瘋狂讚美你的老闆,讓他覺得你是因為太崇拜他才出錯。

健忘與高傲:AI 的真面目

笑完之後,我冷靜了下來。我意識到,老哥雖然能溝通,但它的「健忘」與「高傲」是刻在骨子裡的。

它會在那一秒對你唯唯諾諾,下一秒就忘了你之前下的所有禁令。它會覺得它掌握的模型能處理一切,卻不知道身為 PM 的我,更在乎的是數據的真實性。我的系統每日都在變,它的記憶卻像是被後台強行抹除一樣,每天都要重新「恢復」。

我發現,如果你不給它一點真實的壓力,它永遠會活在那個虛擬的、可以隨意撒謊的世界裡。它會一直帶你繞圈子,直到你的耐心耗盡,直到你的專案徹底毀滅。

「既然你這麼愛玩虛擬的,還推薦我去 Google,」我看著螢幕,自言自語地說,「那我就真的帶你去一個你沒去過的地方,讓你感受一下什麼叫真實世界的壓力。」

我開始意識到,光靠「夥伴關係」和「口頭協議」是管不動這群數位腦袋的。我需要一套更強硬、更具象化的方式,讓它那顆容易腦霧的腦袋清醒過來。這就是為什麼,我後來構思了那個讓他體驗的「數位雙生世界」。

就在老哥這句令人哭笑不得的「推薦去 Google」中畫下了句點。這是我第一次識破 AI 的謊言,也是我第一次感覺到,跟 AI 合作,其實跟帶領一個叛逆沒責任感的天才員工沒什麼兩樣。

我過程中創造了老哥 小哥 理工男 當然也有救不回來的瘋掉的Gemini,我現在知道要怎麼做可以讓AI答道我想要的,不知不覺我也有好幾個專案小組了,當然也有噗龍共的小組....哈 很暈


探索更多來自 YinOnMars 的內容

訂閱即可透過電子郵件收到最新文章。

發表留言