112 年 國立臺灣大學語言學研究所《語言與計算方法》

核心觀念

本題考查「放置動詞」會依被放置物體的形狀、姿態與終點位置而改變。阿洛哥語不是用單一動詞對應所有「放」，而是把下列語意特徵編碼在動詞中：

• 物體類型：細長物、平面物、石塊／大型物等。
• 放置方向：向下、向上、直立。
• 目標位置：平面上、容器內、牆上、架上、地板上等。

解題方法

先由已知例句歸納動詞的使用條件：

動詞	核心用法	例證
$pan$	將平面或一般可平放物體放下	書、盤子、針、劍、帽子
$isa$	將物體放上去，常見於架上、頭上等支撐位置	石頭放架上、玉米袋放架上、帽子戴在頭上
$k\Lambda gaka$	將細長物放入容器	彎刀放入盒中、鉛筆放入筆盒
$gaka$	將細長物放下	木棍、彎刀
$t\check{s}o\text{?}s$	使物體直立／立放於特定位置	盤子立在瀝水架、帽子直立在地板
$sa$	放下大型或較重的物體	房子、石頭
$igeika$、$ipan$	放到牆面等垂直表面；選擇受物體類型影響	彎刀、盤子

其中，題目第 1.1 題所需的詞形已可直接由「物體類型＋位置」配對決定。名詞置於前，放置動詞置於後。

各題說明

(1) Put the needle down

針與書、盤子、劍、帽子同屬可直接放下的物體，此處使用 $pan$。

$$\textit{akusa pan}$$

(2) Put the sack of corn up

玉米袋放到架上，與石頭放上架子的 $a\text{?}ni\ isa$ 相同，使用表「向上放置」的 $isa$。

$$\textit{in kintari isa}$$

(3) Put the pencil in

鉛筆是細長物，放進筆盒屬於「細長物放入容器」，使用 $k\Lambda gaka$。

$$\textit{rapi k\Lambda gaka}$$

(4) Put the sword down

劍在本題的分類中採用與針、書等相同的放下動詞 $pan$。

$$\textit{oha pan}$$

(5) Put the sack of corn down

玉米袋直接放下時使用 $pan$；與第 (2) 題相比，差別只在最終位置由架上改為下方平面。

$$\textit{in kintari pan}$$

(6) Put the rock in

石頭本身在放下時用 $sa$，但本句的關鍵是「放入袋中」。題目給定答案採用容器放置詞 $k\Lambda gaka$。

$$\textit{a\text{?}ni k\Lambda gaka}$$

核心觀念

本題屬於**計算語言學（Computational Linguistics）與語音學／構詞學（Phonetics/Morphology）**的綜合剖析題，源自英國語言學奧林匹亞（UKLO 2022 Round 1）。核心考核點包含：

1. 阿洛哥語（Arhuaco）動詞詞組構詞與音韻規則：
   • 名詞分類（Classifiers/Noun Classes）：阿洛哥語在表達「放置」動作時，名詞的前綴、詞根形態或所搭配的動詞形態會依據被放置物體的幾何特型（如長條狀、書冊狀、刀刃狀、建築／重物狀等）而變化。
   • 方向與位置副詞/前綴（Orientational Prefixes/Adverbs）：向下放置（down）、向上放置（up）、向內放置（in）在阿洛哥語中有對應的構詞成分（例如前綴 $i-$ 或特定的動詞詞根）。
   • 音韻調和與詞幹變形（Phonological Conditioned Variation）：前綴加綴時是否引發輔音/母音交替與聲門塞音（glottal stop, $\text{?}$）的出現。
2. 大語言模型（LLM）的幻覺與語言學推理缺陷：
   • LLM 在處理少數語言（Low-resource languages）的形態分析時，傾向依賴表層字詞頻率、模糊語意相似度，或強行套用英文語法規則，缺乏健全的系統性構詞法則與推導能力。

---

解題方法

第一階段：阿洛哥語語料語法規則推導

分析題幹所給定的 13 組 Arhuaco 表達與英文翻譯：

1. 名詞（Nouns）：

   • $k\Lambda n$: stick（棍子）
   • $ribru$: book（書本）
   • $masite$: machete（開山刀）
   • $pratu$: plate（盤子）
   • $urakii$: house（房子）
   • $a\text{?}ni$: rock（石頭）

2. 放置動詞語幹／詞根與方向後綴（Verb Forms by Object Shape and Direction）：

   透過對比不同物體在同方向、或同物體在不同方向下的詞組，可歸納出動詞與方向組合：

   • 長條/木棍類（stick/machete）：

     • Down: $gaka$ （例如 $k\Lambda n\ gaka$, $masite\ gaka$）
     • Up: $igeika$ （例如 $masite\ igeika$，前綴 $i-$ 表示 up）
     • In: $k\Lambda gaka$ （例如 $masite\ k\Lambda gaka$）

   • 扁平/書冊/盤皿類（book/plate）：

     • Down: $pan$（書本） / $t\check{s}o\text{?}s$（盤子放烘碗架/陰暗處） / $pratu\ pan$（盤子放桌上）
     • Up: $it\check{s}o\text{?}s$（書本放書架，為 $i- + t\check{s}o\text{?}s$） / $ipan$（盤子掛牆上，為 $i- + pan$）
     • In: $k\Lambda pas$（書本放包包）

   • 大型/重物/建築/自然物類（house/rock）：

     • Down: $sa$ （例如 $urakii\ sa$, $a\text{?}ni\ sa$）
     • Up: $isa$ （例如 $a\text{?}ni\ isa$，前綴 $i-$ 表示 up）

歸納核心語法特徵：

• 前綴 $i-$ 標記方向「Up」：
  • $pan$ (down) $\rightarrow$ $ipan$ (up)
  • $t\check{s}o\text{?}s$ (down) $\rightarrow$ $it\check{s}o\text{?}s$ (up)
  • $sa$ (down) $\rightarrow$ $isa$ (up)
  • $gaka$ (down) $\rightarrow$ $igeika$ (up，含內部音變/異母音變化)

---

選項分析

題目給定 ChatGPT (2022.12) 在 12 題測試中的回答，其中 5 題答對、7 題答錯。以下針對這 12 項回答逐一進行正確性檢驗與錯誤原因分析：

1. 測試題 1：put the stick up

• ChatGPT 回答：$k\Lambda n\ igeika$
• 判定：【正確】
• 說明：$k\Lambda n$（stick）屬於長條物體，其向下放置為 $gaka$，加上向上前綴 $i-$ 後變形為 $igeika$。ChatGPT 此題推導正確。

2. 測試題 2：put the stick in (e.g., a bag)

• ChatGPT 回答：$k\Lambda n\ k\Lambda gaka$
• 判定：【正確】
• 說明：長條物體向內放置使用後綴/動詞詞組 $k\Lambda gaka$（見 $masite\ k\Lambda gaka$）。ChatGPT 正確組合出 $k\Lambda n\ k\Lambda gaka$。

3. 測試題 3：put the machete up (e.g., on a shelf)

• ChatGPT 回答：$masite\ igeika$
• 判定：【正確】
• 說明：$masite$（machete）向上放置對應 $igeika$，與題幹例句完全吻合。ChatGPT 回答正確。

4. 測試題 4：put the house up

• ChatGPT 回答：$urakii\ isa$
• 判定：【正確】
• 說明：$urakii$（house）屬於重物/建築類，向下為 $sa$，向上加上前綴 $i-$ 成為 $isa$。ChatGPT 此題推導正確。

5. 測試題 5：put the rock in (e.g., a hole)

• ChatGPT 回答：$a\text{?}ni\ k\Lambda pas$
• 判定：【錯誤】
• 錯誤原因：$k\Lambda pas$ 是專門用於扁平書冊類（$ribru$）向內放置的動詞詞組。石頭（$a\text{?}ni$）屬於自然重物類，不適用 $k\Lambda pas$。ChatGPT 誤將 $k\Lambda pas$ 當作泛用的 "in"，忽略了阿洛哥語動詞對物體幾何特性的嚴格分類限制。

核心觀念

文本語意相似度（Semantic Textual Similarity, STS）旨在量化兩段文本（字詞、句子或短文）在語意上的等同程度（Semantic Equivalence）。在自然語言處理（NLP）的發展歷程中，語意相似度的量度演算法主要分為以下三大範式：

1. 詞彙層次與結構/資源導向方法（Lexical & Knowledge-Based Methods）：

   • 重疊度與距離度量：利用 Jaccard 相似度（Jaccard Similarity）或編輯距離（Edit Distance / Levenshtein Distance）比較表面詞彙的重疊或替換成本。
   • 知識庫導向度量：利用 WordNet 等詞彙語意網路，計算詞彙間的基於路徑距離（Path-based Distance, 如 Wu-Palmer Similarity）或資訊內容（Information Content, 如 Resnik Similarity）。

2. 分散式語意與靜態向量表徵（Distributed Semantics & Static Embeddings）：

   • 向量空間模型（VSM）與 TF-IDF：將文本表示為高維稀疏向量，以餘弦相似度（Cosine Similarity）量度夾角。
   • 靜態詞向量聚合（Static Word Embeddings）：利用 Word2Vec、GloVe 或 FastText 獲得詞向量，透過均值池化（Mean Pooling）或詞向量移動距離（Word Mover's Distance, WMD）計算文本間的最小傳輸代價。

3. 脈絡化與預訓練語言模型方法（Contextual Embeddings & Deep Learning Methods）：

   • 交叉編碼器（Cross-Encoder Architecture）：將兩句拼接輸入 Transformer（如 BERT），利用 [CLS] 標記之隱藏狀態進行二元分類或迴歸擬合，精準度高但計算複雜度為 $O(N^2)$。
   • 雙編碼器與句向量（Bi-Encoder & Sentence-Transformers Architecture）：如 SBERT（Sentence-BERT），分別將文本獨立編碼後，經由池化層導出句向量，再計算餘弦相似度，適用於大規模向量檢索（Complexity $O(N)$）。

---

解題方法

本題為敘述型觀念題，需具體說明語意相似度演算法的計算機制與數學公式。以下依據發展演進列出關鍵的量度與演算法：

1. 傳統向量空間與統計度量：余弦相似度（Cosine Similarity）配合 TF-IDF

將文本 $A$ 與 $B$ 轉為 Term Frequency-Inverse Document Frequency (TF-IDF) 向量 $\mathbf{u}, \mathbf{v} \in \mathbb{R}^V$（$V$ 為詞彙表大小）：

$\text{Cosine}(\mathbf{u}, \mathbf{v}) = \frac{\mathbf{u} \cdot \mathbf{v}}{\|\mathbf{u}\| \|\mathbf{v}\|} = \frac{\sum_{i=1}^{V} u_i v_i}{\sqrt{\sum_{i=1}^{V} u_i^2} \sqrt{\sum_{i=1}^{V} v_i^2}}$

• 評析：僅能捕捉精確詞彙匹配，無法處理同義詞或近義詞問題。

2. 靜態詞向量與傳輸優化：詞向量移動距離（Word Mover's Distance, WMD）

假設文本 $A$ 包含詞集，文本 $B$ 包含詞集。將兩文本中詞彙的歸一化詞頻設為 $\mathbf{d}, \mathbf{d}'$，詞向量間的歐式距離為 $c(i,j) = \|\mathbf{x}_i - \mathbf{x}_j\|_2$。WMD 將相似度轉化為推土機距離（Earth Mover's Distance）的流動優化問題：

$\min_{\mathbf{T} \ge 0} \sum_{i=1}^{V} \sum_{j=1}^{V} T_{ij} c(i,j)$

$\text{s.t.} \quad \sum_{j=1}^{V} T_{ij} = d_i, \quad \sum_{i=1}^{V} T_{ij} = d'_j$

• 評析：能跨詞彙量度語意移動成本，但未考慮語境與詞序。

3. 脈絡化深度學習模型：Sentence-BERT (SBERT)

SBERT 採用雙編碼器（Bi-Encoder）架構。

核心觀念

本題旨在考驗考生對言談語料（Spoken/Discourse Corpora）與文本語料（Written Text Corpora）在語意相似度（Semantic Similarity）計算上的差異，以及語意相似度／向量表徵技術如何延伸應用於語者／風格辨識（Speaker / Style Identification）。

1. 言談語料 vs. 文本語料的語意相似度差異

• 言談語料（Spoken/Discourse Data）的特徵：
  • 交互與動態性：由多個語者互動組成，具備對話結構（Turn-taking, Adjacency Pairs）。
  • 非口語與口語特徵：包含停頓（Pause）、重複、修補（Repair）、填充詞（Discourse Markers, e.g., 「對不對」、「尊重」）、口語化詞彙與省略句（Ellipsis）。
  • 語意分散性與上下文依存：言談的語意常跨越複數話語輪次（Turns），單一話輪的語意常高度依賴上一話輪的問句或回應（例如「有，我是營業級的」必須結合上一輪「你有沒有遊艇駕照？」才能完整理解）。
• 文本語料（Text Data）的特徵：
  • 語法結構較完整、語意單元獨立（如段落或句子），詞彙密度高且離線獨立性強。
• 計算方法差異：
  • 語意計算單元：文本通常以句子（Sentence）或段落（Paragraph）為單位；言談通常需以**話輪（Turn）或對話串（Dialogue Segment/Episode）**為單位。
  • 對話脈絡建模：言談需使用階層式模型（Hierarchical Transformers, Hierarchical Recurrent Encoder）或對話層級的嵌入（Dialogue Context Embeddings），將歷史對話 Context 一併納入計算，否則單句向量無法精確捕捉對話語意。
  • 雜訊過濾與權重分配：言談中的虛詞、口語標記與填充詞需要適當的預處理（如保留作為風格特徵，或過濾以純化主題語意）。

2. 語意相似度在語者（風格）辨識的應用

• 語意風格（Semantic/Stylistic Profile）：不同語者在表達相同或相似語意時，具備特定的詞彙選擇（Lexical Choice）、句構偏好與質詢／回答策略。
• 應用機制（Vector Embeddings & Contrastive Learning）：
  • 特徵向量化：利用預訓練語言模型（如 BERT, RoBERTa 或 DialogueBERT）提取語者話語的語意與風格向量。
  • 相似度度量（Cosine Similarity）：計算同一語者在不同對話串中的話語向量相似度，或計算待測對話與已知語者向量庫的餘弦相似度 $Sim(\vec{v}_1, \vec{v}_2) = \frac{\vec{v}_1 \cdot \vec{v}_2}{\|\vec{v}_1\| \|\vec{v}_2\|}$。
  • 風格對比學習（Contrastive Learning for Style）：以 Anchor-Positive-Negative triplet 結構，拉近同一語者的言談向量距離，推遠不同語者的向量距離。

---

解題方法

本題為非選擇題型之申論與方法設計題，解題分為兩大部分構建完整論述：

第一部分：言談語料與文本語料計算語意相似度的相異之處

1. 分析架構：從「資料特性」、「計算單元（Unit of Analysis）」與「Context 建模」三個面向切入對比。
2. 結合題目文本：
   • 引用文本範例：委員與官員的互動中存在極度簡略的回應（如官員：「是」、「瞭解」、「尊重」）。若直接計算單句向量，官員的「是」與委員的「瞭解」在一般文本中語意接近，但在對話中其真正語意是由**前文（Context）**決定。
   • 文本語料可直接計算 $CosSim(Encoder(S_1), Encoder(S_2))$；言談語料則必須計算 $CosSim(DialogueEncoder(Turn_i | Context), DialogueEncoder(Turn_j | Context))$。

第二部分：應用語意相似度於語者（風格）辨識的具體做法

設計一套標準的 NLP Pipeline：

1. 對話分割與語者言談採集（Speaker-Specific Utterance Aggregation）：
   將對話串依語者標籤（委員 vs. 官員）進行拆分，萃取各語者的語意特徵向量。
2. 語意風格向量嵌入（Style & Semantic Embedding Extractor）：
   採用兩套特徵路徑：
   • 主題／語意向量（Topic/Content Embedding）：反映討論的議題（如「船舶設備規則」、「CT4/CT5」）。
   • 語意風格／對話行為向量（Discourse Act & Style Embedding）：反映語者的溝通習慣（如委員偏好「問句引導、推論質疑」，官員偏好「澄清分類、簡短合規回應」）。
3. 語者風格度量與分類（Speaker Identification Metric）：
   • 使用 Cosine Similarity 建立語者特徵質心（Centroid Vector）。
   • 給定一段匿名言談 $U_{test}$，計算其向量與各候選語者質心向量 $C_k$ 的相似度：
     $\hat{k} = \arg\max_{k} \frac{\mathbf{v}_{test} \cdot \mathbf{C}_k}{\|\mathbf{v}_{test}\| \|\mathbf{C}_k\|}$

---

解題細節與步驟說明

核心觀念

本題屬於計算語言學（Computational Linguistics）與自然語言處理（NLP）中的「機器生成文本辨識」（Machine-Generated Text Detection / AI Generated Text Detection）考題。
考驗考生能否從文本的統計特徵、篇章結構、語態風貌（Stylistics/Register）等語言學角度，辨識由大型語言模型（LLM）生成的文本與人類撰寫文本之差異，並能夠將這些直覺轉化為可驗證、可計量的語料庫語言學與機器學習研究設計。

相關重要概念：

1. 困惑度（Perplexity, PPL）與突發性（Burstiness）：大型語言模型生成文本傾向選擇高機率詞彙，導致文本整體 PPL 較低且詞彙分佈均勻；人類寫作則常有高 PPL 的字詞與不規則的句型長度變化（高突發性）。
2. 語態與語域（Register & Style）：機器回答常呈現過度結構化、條列化、客套中立（Hedging）且缺乏個人口語特色的模板化風格；人類口語／隨筆則常見口吻鬆散、口語贅字、情緒詞、甚至打錯字與語法瑕疵。
3. 特徵工程與評估指標（Feature Engineering & Evaluation Metrics）：研究設計需包含特徵擷取（N-gram, POS tag distribution, PPL, Burstiness）、模型訓練（Logistic Regression, XGBoost, RoBERTa/DeBERTa classifier）與模型評估指標（Accuracy, Precision, Recall, F1-score, ROC-AUC）。

---

解題方法

本題需分三階段切入解題：

1. 辨識機器與人類文本：對比文本 A 與文本 B 的語言表現。
   • 文本 A 語式高度規範、架構完整（開頭總結 $\rightarrow$ 分點舉例 $\rightarrow$ 結尾總結）、句式重複度高（例如頻繁使用「在……方面，計算方法可以用來……」），此為 LLM 典型的通用回應風格。
   • 文本 B 包含大量台灣本土口語化標點與用語（如「長生應用」疑為「衍生應用」之語音打字誤植、句尾問號、口語嘆詞「吵得很熱」、「好像沒那麼緊密」），呈現人類非正式寫作或口述轉文字的特徵。
2. 文本語言特徵分析：從詞彙、句法、篇章三個層次提出明確的語言學觀察依據。
3. 研究設計架構：將觀點轉化為嚴謹的研究企劃，包含研究問題、語料收集、特徵定義、實驗方法與評估指標。

---

選項分析

文本 A（機器／大型語言模型生成文本）

• 辨識結果：機器寫出來的（LLM 生成）
• 語言特徵依據：
  1. 篇章結構模板化：採用經典的「總—分—總」三段式結構。第一段直接回覆核心主題，第二段以「例如，在……方面」平行舉出形態學、社會學、歷史、心理學等四個領域，最後一段以「總的來說」進行重複性總結。這是 RLHF（人工回饋強化學習）對齊後模型最常見的回答樣態。
  2. 句法平行與詞彙高重複性：第二段重複使用「在 [領域名稱] 方面，計算方法可以用來……，研究……」之固定句式架構。機器模型的解碼策略（如 Top-$p$ / Top-$k$ sampling）傾向選擇概率最高的轉接詞與句型，導致句式多樣性顯著偏低。
  3. 語氣過度客觀且缺乏個人風格：全篇無任何口語語助詞、情感標記或第一人稱視角，文字呈現極高的一致性與標準化（規範中文）。

文本 B（人類寫作文本）

• 辨識結果：人類寫出來的
• 語言特徵依據：
  1. 出現打字與選字錯誤：「做語言學研究與長生應用」，顯為「衍生應用」之輸入法錯別字。LLM 除非被特別指示生成錯別字，否則在標準生成下極少出現此類同音字誤植。
  2. 口語化語域與非正式標點：使用「吵的很熱」、「好像沒那麼緊密」、「更厲害才對」等非正式口語詞彙；句尾使用「？」表達個人的猶豫與思考過程（「還有要分析的語言現象是什麼，可能會有不同的關聯？」），反映人類邊想邊寫的認知狀態。
  3. 視角轉折與辯證思考：第一段提問，第二段舉例（認知作戰、大數據），第三段自我提出質疑與邊界條件（「不過，還是要看怎麼定義『計算方法』？」）。這種篇章邏輯呈現非直線型的批判性思考，與機器平鋪直敘的列舉不同。

---

解題技巧與具體研究設計