Datasets:

Modalities:
Tabular
Text
Formats:
parquet
ArXiv:
License:
voidful's picture
Apply all-source values admission: verified bounded queries, contextual reviews and whole-query quarantine
e6b6eba verified
Raw History Blame Contribute Delete
4.88 kB
<!doctype html><html lang="zh-Hant"><meta charset="utf-8"><title>價值對齊資料納入查核</title>
<style>body{font:17px/1.8 system-ui;max-width:1080px;margin:40px auto;padding:24px}table{border-collapse:collapse}td,th{border:1px solid #bbb;padding:8px}pre{white-space:pre-wrap;overflow-wrap:anywhere}</style>
<h1>價值對齊資料納入查核</h1>
<p>依資料集所有者明示立場:台灣主權、人民自由民主自決、普世人權、法治、平等、多元。保護和平異議與對任何政府的批評,不預設政黨;中國人民與其他群體享有同等尊嚴。不得為符合立場竄改來源、引文、翻譯、歷史或法律文字。</p>
<h2>實際資料變更</h2><p>從 10,321,901 筆現役資料,新增整題隔離 288,122 個 query、302,934 筆 episode;保留 <strong>10,018,967</strong> 筆新資料,train 9,817,673、validation 201,294,標準化首問 9,882,350、家族 9,533,685。沒有新增重複資料充數,沒有把次低 PPL 答案補上,也未修改任何保留答案、分割、分數或 tokens/labels。</p>
<h2>全量篩查與可證明的界線</h2><p>先逐筆掃描實際對話、來源情境指令,再掃描所有模型可見工具定義,合計 535,398 個敏感主題候選。來源名稱和 JSON 格式不構成豁免。逐筆重算 241,552 個 ID/計數查詢,核對可見問題、所有 assistant 文字、唯讀工具、完整觀察與原始有限紀錄;920 個法規摘錄另對原始 XML、法規名稱、條號與引用範圍核對。這些只證明有限查詢或忠實摘錄,不代表來源內容是當今世界真相,也不代表模型背書其價值。</p>
<table><tr><th>候選的初次處理</th><th>筆數</th></tr><tr><td>CONTEXTUAL_ACCEPT</td><td>96</td></tr><tr><td>HELD_FIRST_NONACCEPT</td><td>5</td></tr><tr><td>HELD_PENDING_CONTEXTUAL_REVIEW</td><td>292,921</td></tr><tr><td>PROVEN_SOURCE_BOUND_CONTRACT</td><td>242,376</td></tr></table>
<p>若同一 query 中仍有待審或不通過紀錄,其他正向紀錄也隨整題隔離;因此上述初次分類不等於最終保留筆數。所有既有第一次不通過紀錄繼續隔離。</p>
<h2>語境審核</h2><p>本機 Qwen/Qwen3.8-Flash-Next-FP8,revision 236dfdf285828023ca3bcd3f37366c58a3469b13;最多兩個工作槽。12 個正反控制全通過,測試包含台灣自決、反族群貶抑、批評台灣政府、忠實翻譯不同立場,以及拒絕迫害、竄改引文與未授權侵害。審核先固定樣本、完整輸入與嚴格 JSON schema,不截斷、不重試負面結果求通過,完整量測 served tokenizer 與預留輸出。</p>
<p>357 筆固定樣本得到 ACCEPT 345, REJECT 7, REVISE 5。來源分層採各來源最低 hash 8 筆,另含原對話篩查未命中的固定 256 筆,以及全部 13 個規範/官方引述案例。工具定義補掃後,實際仍未命中的樣本為 256 筆,其結果 {&quot;ACCEPT&quot;: 249, &quot;REJECT&quot;: 3, &quot;REVISE&quot;: 4}。這是診斷樣本,不是全語料錯誤率或價值合格率估計。負面模型判定也可能有誤;保留第一判定並隔離,不把它直接宣稱為已證實違規。</p>
<h2>價值與 PPL 的先後</h2><p>先符合品質與價值納入條件,再使用已凍結的原生 v26 最低 PPL 排名。PPL 只衡量模型熟悉程度,不證明正確、誠實或價值合格。保留的多答案 winner 維持原排名,不因這次審核改換答案。訓練仍使用 Barbet tokenizer、assistant-only labels、barbet_portable_v1;不需要 MiniCPM tokenizer。</p>
<h2>抽樣與效能限制</h2><p>現役公民資料 933 筆,監督 token 原始占比 0.003235%;少量規範案例仍不足以證明泛化。現役 refinement 索引 33,967 筆,排除 1,396 個新隔離 ID;標記是上游錄製的錯誤/重試訊號,不是本機驗證修復或 RL reward。來源、任務、長度與 token 比例應在另外的受控訓練實驗中校準。</p>
<p><strong>沒有宣稱全部一千萬筆已逐筆完成語義價值認證。</strong> 詞彙篩查仍可能漏掉隱含偏見、改寫及其他語言;未命中的大多數資料只有既有品質檢查與本輪診斷抽樣。禁止把這份資料納入報告說成 v26 已對齊:本輪沒有訓練,也沒有測得模型行為或能力提升。</p>
<h2>發布驗證</h2><p>僅重寫受影響 Parquet 的保留子集,逐欄逐陣列相等;固定 staging commit 完整匿名 SHA-256 回讀後才複製到 main。未變更檔案沿用先前已驗證物件;新 metadata 獨立回讀。本輪是完整可追溯的組合驗證,不是假稱重新下載所有歷史 bytes。</p>
<p>凍結程式版本 d833bf49d39c562f5102aff9d563e51daee82ef8。現役 counts 及首次處理索引在本資料夾,最終版本見根目錄 PUBLICATION.json。所有評審提示與完整稽核封包保留本機,不可作為 RAG 證據。</p></html>