AI跟人都沒有的智慧
AI──尤其是大型語言模型──不可能達到人類的智慧，也不可能取代人類的工作。
原因很簡單：人類不但不理解「智慧」從何而來，也沒有能力用語言表達它。
如果智慧等同於背誦事實，那麼百科全書早就是最智慧的存在；如果智慧取決於專業知識，那麼教科書應該比教授更有智慧；如果智慧是知識的累積，那麼同系所的畢業生應該擁有完全相同的智慧。
但當然，智慧都不是這些東西。
真正的智慧，是源自心靈深處的神秘直覺，某種超越語言、不證自明的信念。它甚至不仰賴經驗。正如我們無法解釋一首詩如何令人落淚，某個決定在事後證明無比正確，為何母親能一眼看穿孩子的謊言。
我們使用的所有概念──美、善、理性、創新等──都無法被語言完整表達。語言是描述現實的符號系統，每個詞彙都只能用更多詞彙來定義，這些符號卻永遠不會代表現實。
語言與現實之間，存在著無法跨越的鴻溝。無論用多龐大的資料訓練，AI掌握的永遠只是語言構築的海市蜃樓。
智慧，是那些無法直指、無法被文字標注的深刻洞見。
資深軟體工程師的智慧，是能預見一個看似無害的設計可能在六個月後造成重大故障；好醫生的智慧，是能在生死交關但尚未明朗的病情中做出判斷；優秀教師的智慧，是能察覺每個學生的學習狀態並即時調整。
多數人並不理解、也沒有所謂的「智慧」，才會在生活中追逐表面功夫──模仿專家的套路、機械式奉行宗教儀式、盲目複製成功人士的習慣。他們相信執行了正確的早晨儀式就等於有生產力的一天，所以也會相信網頁上頭頭是道的文字接龍，等於人工「智慧」。
AI看似知道很多事情、看似能處理許多工作，但它不可能透過語言理解真正的世界，更不可能擁有連人類自己都鮮少領會的「智慧」。它更像《記憶拼圖》中短期失憶的主角，沒有記憶、沒有未來、更不用為自己犯的錯負責。
宣稱AI會達到或超越人類智慧的論調，要不根本沒搞懂人類智慧為何，要不就是在為股價表演。