什麼是模型量化?為什麼它能把大模型塞進你的電腦
模型量化將神經網路權重從16-bit等高精度壓縮為4-bit等低精度,使模型記憶體佔用縮小到約四分之一;量化搭配MoE架構後,大型開源模型得以運行於消費級硬體,但破兆參數模型即使4-bit量化,體積仍可能超出單機記憶體上限。
模型量化將神經網路權重從16-bit等高精度壓縮為4-bit等低精度,使模型記憶體佔用縮小到約四分之一;量化搭配MoE架構後,大型開源模型得以運行於消費級硬體,但破兆參數模型即使4-bit量化,體積仍可能超出單機記憶體上限。
MoE 架構把大型語言模型的『總參數』與『啟用參數』分開,例如 Qwen3 235B 模型每次推理僅啟用 22B 參數,使模型能同時保有大容量與低運算成本;2026 年主流開源模型已集體採用此設計。
AI 資料中心的耗電規模已從 MW 級躍升至 GW 級,主因是 GPU 叢集訓練與推理。OpenAI 俄亥俄資料中心規劃需 10 GW 新增供電、4.25 IT-GW 運算容量;電力正取代晶片成為 AI 基建瓶頸,業者轉向自建電廠與核能因應。
經濟部中小及新創企業署與國發會在曼谷舉辦「Tech Solution Day」,11家台灣新創公司展示永續科技、智慧醫療等領域成果;泰方業者指出,台灣硬體優勢與「去紅供應鏈」趨勢是雙方合作的關鍵動能,後續行程將延伸至Techsauce全球高峰會。
OpenAI宣布自2026年8月25日起恢復ChatGPT Plus用戶在Codex與ChatGPT Work的5小時使用限制,重回「5小時加每週」雙重機制;Pro方案(100美元/200美元)未來數月內仍不受影響,企業版與教育版則未宣布任何調整。
美國超過1億人沒有固定初級照護醫師,自費禮賓醫療年費落在1.2萬至2.4萬美元之間;Atlantic Health與K Health於2026年8月13日推出AI臨床分流與看診前問診平台,結構化摘要直接同步至Epic電子病歷系統,嘗試以較低成本補上照護缺口。
OpenAI 於 8 月 19 日公布 Private Safety Processing,承諾對企業與 API 客戶採零資料保留,對比 Anthropic 要求 Claude Mythos 5、Fable 5 所有流量保留 30 天;微軟已暫停員工使用 Fable 5,Anthropic 則規畫讓逾 100 家企業客戶的保留資料改存放自有雲端。
立法院於2026年8月21日三讀通過《能源管理法》部分條文修正案,共增修15條,將能源大用戶原本須同時設置的自用發電及儲能設備改為擇一,違規者可處新台幣15萬元至75萬元罰鍰。經濟部指出修法背景與AI資料中心、半導體及電子產業用電需求成長有關,子法仍待訂定。
台灣經濟研究院公布,7月製造業營業氣候測驗點達101.09點,月增2.48點,創逾4年新高;同期主計總處上修今年經濟成長率至11.05%,創39年新高;孫明德指出,2025年Blackwell架構帶動台灣資通產品出口迎來第二波成長,黃仁勳訪台後,市場仍可期待下一波動能。
匿名模型Ox Alpha於8月20日免費上架OpenRouter與OpenCode,一週內衝上使用量週榜第4名,技術指紋與標記器分析指向微軟或中國實驗室等多種可能,但截至8月24日仍無廠商出面承認身分。
台灣大以每股184.5元、溢價約29%公開收購精誠資訊39%至58%股份,價金上限291.3億元,遠高於2024年9月每股123元、溢價僅2.5%的入股價;林之晨表示,整合近4,500名工程師與近千位業務人員後,資服營收年複合成長率可望超過20%。
Google宣布自即日起至2026年12月31日,台灣大專校院學生可透過學校電子郵件驗證資格,免費訂閱一年Google AI Plus,享兩倍使用量上限與400GB雲端儲存空間;免費期滿後自動轉為每月新台幣165元,另有每月160元、最長4年的Google AI Pro可選。
新代科技上半年AI伺服器加工零組件應用占比達約3成,較2025年約1至2成成長,帶動前7月合併營收年增95.42%至159.94億元;公司同時將機器人應用列為中長期成長引擎,目標業績占比由今年預期4%推升至2030年突破10%。
OpenAI於8月19日發表Private Safety Processing,以客戶自控金鑰與範圍明確訊號取代人工審閱,並延續ZDR逐次會話監控,搶在Anthropic自6月起強制涵蓋模型留存30天、無ZDR選項引發爭議之際重塑隱私定位。
OpenAI於8月19日預覽隱私安全處理,將ZDR安全審查擴展到跨多次互動,並導入客戶自控金鑰加密,目前已提供部分客戶早期測試。此舉被視為與Anthropic的資料留置政策區隔,適逢Anthropic上季營收翻倍至116億美元,首度超越OpenAI。
Cognition執行長Scott Wu否認彭博報導的SpaceX收購提案,強調公司「不待售」且雙方未曾談判;彭博稍後說明收購談判已非持續進行,但雙方仍討論包括運算資源在內的合作方式,Cognition也正洽談400億美元估值的新一輪融資。
SpaceX旗下Cursor於8月17日推出程式碼託管平台Origin早期測試版,上線約三個半小時後GitHub即發生持續6小時42分鐘的全球服務降級,錯誤率一度達20%至50%,GitHub CTO並坦承平台容量規劃跟不上AI代理帶來的流量成長。
台灣五家AI伺服器代工廠2026年第二季財報顯示規模與成長速度明顯分化:鴻海以2.53兆元合併營收居首,廣達年增105.6%居冠,緯創稅後淨利季增54%創新高,但五雄揭露AI伺服器業務占比的統計基準並不一致。
全國工業總會與泰國工業總會18日共同舉辦「2026台泰產業鏈結高峰論壇」,促成智慧健康、資通訊智慧科技、智慧城市與智慧車輛四大領域共4項合作備忘錄,泰國工業總會副主席劉漢炎指出2025年雙邊貿易額達194億美元,2026年第一季更較去年同期成長47.8%。
Anthropic預定於2026年秋季啟動IPO,投資人估算其估值至少達2兆美元,部分甚至看至3兆美元,規模可望超越SpaceX成為史上最大IPO。這項預期的關鍵支撐,是Anthropic年化營收上看1000億至1200億美元、較去年成長逾10倍。
OpenAI於2026年8月18日公布新一批安全政策,聚焦模型測試期間風險控管,包含更嚴格沙箱、30分鐘示警機制與對齊技術強化;最大規模前沿強化學習訓練仍處暫停,官方強調此舉並非直接回應Hugging Face突破事件,而是部分因應Astra模型與AI發展速度。
OpenAI於2026年8月18日推出「青少年版ChatGPT」,系統依註冊年齡或使用模式自動辨識13至17歲用戶並套用內容限制、學習工具與家長監控功能。
蔡阿嘎將日本街頭畫家原作與AI生成圖並列比較,抵制連署人數達105,908人;美國、台灣、中國對AI生成圖著作權認定標準不一,而訓練資料授權合法性成2026年新焦點,歐盟opt-out與音樂產業opt-in成為因應兩路徑。
韓國海洋水產部選定蔚山市作為水下資料中心試點所在地,模組沉入海床下約20公尺,最終可擴充至容納10萬台伺服器。試點計畫總耗資511億韓圜(約3,540萬美元),最快今年開始測試,商業化園區預計2031年啟動建設。
Anthropic年化營收在2026年7月底達到650億美元,較去年同期成長約7倍,超越OpenAI最近達到的400億美元規模。公司5月以650億美元H輪融資將估值推升至9650億美元,並已秘密向SEC提交招股書,籌備年內上市。
2026台北國際自動化工業大展8月19日至22日在南港展覽館登場,超過800家廠商參與,攤位數較上屆成長7%;隨中國宇樹科技掛牌炒熱人形機器人題材,所羅門同步展出實體AI代理人平台、AR配線引導與新一代3D視覺相機技術。
賴清德宣布,116年度中央政府總預算歲入上修至3兆9,266億元,規劃五項重要任務,包含在實質零舉債前提下全民普發現金每人1萬元、國防經費首度突破兆元達1兆1,225億元,並編列406億元推動AI新十大建設,強調AI為台灣經濟帶來歷史機會。
Meta一項2026年2月提出的專利顯示,智慧眼鏡可辨識人物並自動判斷拍攝時機,內建權限限制、防搜尋、資料隔離與本機運算等隱私機制。該功能代號「Name Tag」,最快今年推出,但Meta高層自去年初即因安全與隱私風險審慎評估時機,視障者試行計畫也未落實。
SpaceX已完成收購AI程式碼編輯工具新創Cursor,Cursor透過官網公告確認收購流程結束,正式成為SpaceX全資子公司。這筆交易源自4月的合作宣布與600億美元收購選擇權,Cursor表示藉此可使用全球最大GPU艦隊,打造執行成本更低的AI模型。
自動化工具新創Relay由Jacob Bank於2021年創立,將於9月14日終止付費用戶服務;Bank已回任Google,出任Chrome產品副總裁,部分Relay員工隨行,而Google Gemini用戶數已突破10億。