拆解生成式人工智能思考方式 與人類認知大不同

人類認知與生成式人工智能（GenAI）的運作方式截然不同。香港教育大學研究團隊曾運用GenAI分析5萬則網上帖文，成功偵測其中的假資訊，這項研究告訴我們，若能理解GenAI的運作機制，便可有效引導它辨別真偽 1。根據研究發現，可將字詞、文本和語言類別想像為空間中的「物件」，而GenAI則在此空間中穿梭以生成回應 1。由於人工智能本質上是在數據地圖中尋找路徑，因此我們的指令須明確指出其角色定位，才可將人工智能引導至正確的專業領域 1。 以繪製婚禮場景為例，人類畫家不僅要捕捉畫面，還會注入自身記憶，為作品增添社會現實感 1。社會規範、習俗、贊助者與競爭對手的期望，共同形塑了畫家的創作 1。GenAI同樣運用影像、聲音和文化資訊生成作品，但它的訓練數據在藝術、建築、宗教與儀式等面向的覆蓋範圍，往往超出人類界限 1。GenAI的作品也能形塑持份者的社會現實，即使GenAI沒有信仰或經濟考量，其數據往往隱含了人類的價值觀 1。因此，GenAI能否將這些資訊整合為對人類有益的道德回應，仍是關鍵課題 1。 要理解GenAI的運作，須觀察它如何組織數據 1。以「狗舔男孩」（dog licks boy）為例，每個詞都是空間維度上的一點：「狗」對應肉食動物類別，「舔」代表觸覺或動作，「男孩」則是人類 1。這三個詞相互連結，形成一條「路徑」 1。詞與詞之間的相鄰關係會影響語義，例如bank在「銀行櫃員」（bank teller）和「河岸」（river bank）中的意義截然不同 1。 根據二〇一七年的研究《Attention Is All You Need》，模型加入了能令相關詞彙互相「吸引」的「磁鐵效應」，調整了詞彙之間的關係，形成「磁化路徑」 1。當我們要求GenAI創作故事時，它就會利用路徑的「慣性」，以機率逐字挑選下一個詞 1。例如，「狗舔男孩」正是電影《沙地傳奇》（The Sandlot）劇本路徑的情節核心與中心點 1。精確的提示能收窄這條路徑，確保人工智能的產出符合預期 1。 所謂「意義」，就是一段句子或電影在空間中所佔據的位置 1。因此，若從數據中刪除兒童色情等不當內容，等同於在空間裏留下一個「空洞」 1。除了內容，我們還須檢視GenAI產出的真確性 1。假設存在一個由事實（如二加二等於四）組成的空間，若訓練數據充斥着謊言、誇大或失實，這些「錯誤資訊磁鐵」便會將事實拉離原位，導致語義扭曲 1。 研究團隊進行偵測假資訊的研究時，發現真實資訊的路徑通常穩定且集中，而假資訊則會產生異常的偏移 1。因此，GenAI需要大量且高品質的數據來對抗這些「錯誤資訊磁鐵」 1。使用者則要提防那些看似真實的「幻覺」，僅利用人工智能梳理結構及分析，再由真人驗證事實 1。 與人類不同，GenAI並不具備推理能力，其答案往往難以解釋 1。值得注意的是，人類訓練數據有瑕疵的話，GenAI的產出亦有缺憾 1。如果將這些錯誤產出再餵回訓練流程，錯誤將會倍增，形成吞噬一切的黑洞，造成「模型崩潰」（model collapse） 1。為了防止這種情況，部分公司已不再將GenAI生成的內容納入後續訓練數據中 1。 此外，若無明確禁忌，GenAI可以展現極致創意，也可能產出惡劣內容 1。因此，研發公司必須建立防護欄 1。為了確保人工智能真正符合人類需求，我們必須明確指定其角色與目的 1。例如：「你是一位專業物理老師。請向十五歲學生解釋黑洞。」透過賦予身份與目的，我們才能引導人工智能的路徑，真正為人類提供所需的服務 1。

在香港這個假資訊迅速傳播的數碼環境中，理解GenAI的局限性對教育工作者、記者和政策制訂者至關重要 1。研究強調，雖然GenAI是強大的分析工具，但人類驗證仍然不可或缺——人工智能應用於梳理和分析資訊結構，而非作為不可爭議的事實來源 1。