驚！機器人是否正在悄悄吞噬我們的靈魂？

我一直在思考特德·姜（Ted Chiang）在《紐約客》上發表的有關人工智能（AI）的那篇文章 關於 人工智能（AI） 。他的基本論點是，以像 ChatGPT 這樣生成文本的大型語言模型（LLM）以及像 DALL·E 這樣的文本到圖像模型爲例的人工智能，無法創作藝術，因爲它無法做出藝術家憑藉多年的知識和經驗所做出的特定和情境化的選擇。這裡有對選擇框架的一則不錯的批評 此處 ，而且我或多或少認爲人工智能無法創作藝術（儘管它可以製作看起來像藝術的東西），而且那些在意工藝、散文以及詞語質量依次搭配的人，不太可能向 LLM 輸入提示來創作自己的散文、詩歌和書籍。

更有趣也更值得琢磨的是，爲啥有人可能想用 LLM 來寫東西，以及在啥情況下用。任何從事辦公室工作的人，任何得生成列表、報告和格式信函的人，可能會在 LLM 中找到一種減少工作並更多享受時間的方法。資本主義下的勞動剝削邏輯意味着所有工人都被視爲可互換的小部件；因此，必須在該系統中生存的人會使用一種工具，幫助他們以最小的努力和時間成爲更好、更高效的小部件，這樣他們就有更多的時間去做他們真正想做的事情。

這一點容易指出來，可很難採取啥措施。那些靠 LLM 的輸出賺大錢的人，纔不關心季度末總結報告是由“人工”而非人類智能寫的呢。也許那些往系統裡輸入文字然後等着它生成報告的人也不在乎。他們寧願在網上購物、讀書、查看社交媒體、與同事交談或做其他事情。這沒關係。

問題在於，機器人會讓我們丟掉那些從一開始就不想從事的工作，但我們卻無法從這種工作崗位的流失中獲得好處。我們不會因爲藉助人工智能能夠以 50 倍的速度處理那些無聊的電子郵件工作而擁有更多個人時間，也不會因爲效率提升而拿到更高的工資。（十多年前，大衛·格雷伯（David Graeber）在《毫無意義的工作》中就提出了這一論點。）

更有可能發生——也許已經在發生了——而且我覺得悲劇的是，機器人不僅會在實際意義上，即在工作中取代我們，而且會使我們變得更不像人類。我們在工作中依賴它們，然後依賴它們給房東寫信，最終，由於我們長時間不思考，以至於給女友發短信（或者像在那個谷歌廣告裡那樣，幫女兒給她最喜歡的運動員寫信）都得依靠大型語言模型。它們會幫我們避開一個不僅能讓我們成爲更出色的藝術家或作家，而且關鍵是能讓我們成爲更優秀的人的過程。

良好的思考以及隨之而來並對其起到促進作用的必要自我反思，增強了我們在諸如同理心、慷慨和團結等方面的能力。它提升了我們同時持有兩個或更多相互矛盾想法的能力。它讓我們與自身聯繫起來，以便我們能夠與他人聯繫。它使我們更徹底地成爲人類的一部分。

當然，無意義的工作和辛苦的勞作幾乎並非深度思考機會的巔峰。但是大型語言模型的激增正在使本已嚴峻的局勢——人們幾乎沒有任何時間爲自己思考，去做能令他們滿足、能增強他們的愛、同理心以及我上面提到的所有其他能力的事情——變得更糟。

這些模型的使用是極度反社會的，這不僅是因爲它們切斷了兩個人之間的交流，而且更重要的是，因爲它們切斷了與自我以及自我內部的交流。它們的使用助長了對於寫作甚至說話、語言本身的工具主義觀點，排除了我們將語言用作發現手段的可能性。當一個大型語言模型依據提示生成一段文本時，它生成的東西看似一篇文章或一首詩，但實則都不是，因爲它所傳達的並非其創造者的真實意識，而僅僅是其最初的意圖。任何作家都知道，你很少能創作出你原本打算創作的東西。

理想情況下，寫作是一種使原本無法表達的東西能夠表達出來的手段，是一種發現原本隱藏的東西的手段。我說話的方式跟寫作的方式不一樣；我的想法在很大程度上難以表達，所以在言語中於我而言是未知的。我認爲對於那些不稱自己爲作家的人來說也是如此。

在那個小小的謎團裡存在着一些有價值的事物，一些能將我們彼此聯結起來的東西，從而讓生活變得值得去過，爲一個更美好的世界去奮鬥也變得值得。倘若未能接觸到那個謎團，我們就不再是人類的一份子，而是淪爲了恰好組織我們工作生活的那種完全隨意、具有剝削性的系統中的小齒輪。