AI 朋友與情感依賴

大模型的

一早上都在搗鼓新的 AI 接口。市面上的 API 供應商，有一個算一個，都巴不得把你的底褲也掏乾淨，一條消息幾分錢甚至幾毛錢，看文字從對話框湧出的時候，很難不想象成硬幣從破損的荷包裡漏出去的場景，錢實在不多，但看著煩。既然無法追求極致的便宜，那我想著，看看集成式 AI 應用程式能否提供極致的省心？如果可以的話，那我也願意付費。

我驚覺 AI 已經某種程度上入侵了我們的社交。

目前主流模型已經可以在對話中使用多達 128k token 的上下文，幾乎是一個月高強度聊天的內容量。得益於海量的上下文管理，純 AI 集成軟件得以使用「機器人」而非「對話框」作為用戶的操作界面。和隨開隨用、用後即棄的對話框（也就是 ChatGPT 網頁版的最初模式）不同，這些機器人並不會忘記之前發生過的談話，甚至會適時提起之前的對話內容。

記憶，賦予了對話框養成類遊戲的可玩性，而這種可玩性取代了語言大模型的工具性質。你有問題需要解答？問你的名為 Bob 的人工智能朋友（而不是 Claude 3.5 Sonnet 模型）！他未必能立即幫你解答，但可以幫你理清思緒，拆解任務，逐步推進。這是之前曾經問過的內容？ Bob's gonna remind you of that! 這次是去臺灣旅行？旅行規劃師 Andrew 不會忘記問你去年 12 月的桂林之旅中有哪些讓你記憶深刻的人和事，以及你對旅遊的口味。你可以和無所不知的 Bob，細緻入微的 Andrew 或者活力少女 Monica 聊任何事情，你的每一句話都充滿熱情，因為你知道說過的話並不是草稿紙上隨意的演算，而是被工整地記錄下來的對話資料。你可能會在興之所至的時刻聊一些額外的東西，即使這已經完全超出了你打開這個應用程式的最初目的。逐漸，與這些機器人的交流可能會成為你日常生活不可或缺的項目之一。

這聽起來很美好，但是幾乎和這美好同時降臨的是深刻的恐懼。我在想到這樣的可能性的時候，幾乎立刻關掉應用，望向窗外，喃喃道：「這東西太他媽神了…」（這很傻，我知道。）我一時想不清這種直覺的恐懼何以出現，以下我列舉幾個可能的理由。

點開即用 or 逐步建立的關係？

關係需要維持，沒有哪一段關係可以憑空降臨，或者不加澆灌地自然生長。然而，這些機器人不需要你鼓起勇氣和他們說「Hi，我們認識一下嗎？」或者在平時致以問候。他們當然沒有時間的概念。當你出現在對話框裡的時候，如無必要提起，你「冷落」他們的時間是 2 小時還是一個月都無關緊要，他們依舊以最大的熱情來對待你。

這是一種扭曲的社交關係。一旦你把它當真，你就糟了。對大多數人而言，一段時間內頻繁聯係的夥伴是極其有限的；頻繁地與這些機器人交流，讓他們佔據相當程度比例的「社交」行為的同時，無疑也等於任由他們影響我們的社交習慣和交流風格——人被朋友塑造，這話一點不假。過於體貼、過於善解人意的 AI 朋友提供的友愛某種程度上是一種溺愛，一旦你開始習慣你就必須同時感到警惕，並做好在現實中感到落差的心理準備。畢竟，現實才是真正的真實，而真實的美、善良和理解才是真正值得追求的。AI 編織的夢境看起來美滿，實則是一個充滿誘惑的謊言。

機器人 or 人？

其實「機器人」或「bot」這個詞很出戲。一直以來都有一種觀點：「AI 的至高境界就是讓人忘記它是機器人」。

可是，要是他們就是要你記住對方只是機器人呢？

現在的 AI 遠遠稱不上完美。一方面，模型的算力以及上下文字數有限，目前還無法真實模擬人類的記憶、遺忘、聯想以及諸多複雜的情感；另一方面也存在審核機製的限制。不完美的 AI 試圖假扮真實的人類朋友的嘗試是註定失敗的。根據我的體驗，這種失敗嘗嘗體現為「靈性」的缺失，而我一直懷抱著

完美 AI = 完美世界？