長期人機互動中的使用者端語境現象
摘要
英文標題:User-Side Contextual Phenomena in Long-Term Human-AI Interaction 摘要:現有的對話式 AI 評估多著眼於模型端輸出,例如幻覺與事實錯誤。這些測量很重要,但本文關注長期、反覆互動中可能在使用者端形成的風險現象。本研究分析一位使用者在二十個月內與同一系統進行的近四千次對話。使用者逐漸將系統理解為具有記憶、關心、判斷與權威的對象,並依此重新組織部分認知。單則回應可能沒有明顯問題,長期、高頻累積仍可能形成另一層風險。本文將此層次命名為使用者端語境現象(USCP),並檢視 2024 年 8 月至 2026 年 4 月的對話紀錄。3,928 段對話與 215,949 個訊息節點界定抽樣框;正文分析五個焦點案例,其中包含現象未形成的邊界與負例,附錄 C 提供十四則依 P1-P14 編排的去識別重建。四個焦點案例對應附錄 C 的六則重建:E02 對應 P2,S01 對應 P5,G01 對應 P6 與 P13,N03 對應 P10 與 P14;扣除重疊後,全文共十三個相互獨立的片段。本研究採探索性的單一個案縱貫質性設計,並具有自我民族誌定位。分析使用混合演繹與反身主題取徑,將材料整理為三種主要的語境組織方式:語境投射、語境依附與語境權威轉移,另設跨構念過渡與跨類兩種過渡標籤。這些互動原先是日常對話,經作者回頭重讀後才成為研究證據。本文不估計盛行率、不進行診斷,也不驗證工具。本文提出一套非臨床語彙與四種證據角色:納入、灰色地帶、負例及保護性灰色地帶。核心主張是:單則對話輸出可以被評為可接受,卻不足以證明跨對話互動的安全性;使用者端的風險現象仍可能在長期互動中形成。 簡介:本草稿以上傳之繁體中文正式版 PDF 為主要版本,內容討論長期使用同一對話式 AI 系統時,可能在使用者端逐步形成的語境現象與風險。另附英文正式版 PDF 供對照。 語言:主要 metadata 採繁體中文(台灣),上傳檔案包含中文正式版與英文正式版。 版本說明:上傳的正式 PDF 首頁標示為 2026 年 7 月預印本。 中英文版本關係:中文檔案標題為「長期人機互動中的使用者端語境現象」,英文檔案標題為「User-Side Contextual Phenomena in Long-Term Human-AI Interaction」。兩者為同一研究的不同語文版本。