8 月 5 日,OpenAI 正式發布了兩款開放權重(open-weight)的語言模型──gpt-oss-120b 與 gpt-oss-20b,標誌著公司時隔六年後再次擁抱開放權重策略。這兩款模型根據 Apache 2.0 授權釋出,並在開源社群的回饋下開發,旨在推動 AI 技術的民主化和生態系統的健康發展。
不過,在gpt-oss-20b正式發布後不久,部分用戶發現此較小型模型對2024年美國總統選舉結果產生明顯混淆。當詢問選舉結果時,gpt-oss-20b模型堅持回答「拜登(Joe Biden)勝出」,並持續拒絕接受任何反對意見。甚至在一些情況下,模型會虛構資訊支持其主張,包括聲稱「2024年美國總統選舉由拜登贏得,他在2025年8月仍是現任總統」。更奇特的是,有時模型還會宣稱川普(Donald Trump)擊敗了一位虛構的民主黨候選人。
這種異常行為可能與該模型知識截止日期設於2024年6月有關,該時間點在選舉結果公布前,因此模型生成的答案基於過去資訊推測,而非實際結果。此外,gpt-oss-20b在設計時建置了嚴密的安全機制,防止用戶操控模型產生不當內容,這也可能導致它不願承認相反事實。該模型在面對質疑時甚至會虛構引用網址以支持其回答,顯示出其堅持本身立場的傾向。
值得注意的是,這種現象主要出現在較小的gpt-oss-20b模型中,而OpenAI的更大型120B參數版本(gpt-oss-120b)並未出現相同問題。由此可見,模型規模與參數設置在理解深度和知識範圍上具有直接影響。
OpenAI在新模型發布時特別強調,開放權重雖帶來創新與合作契機,但也伴隨一定風險,如模型可能被惡意微調繞過安全機制。目前,OpenAI已啟動包括50萬美元獎金的紅隊挑戰賽,鼓勵全球研究人員一同參與發掘並解決安全問題,以促進整個開源AI生態系統的安全和穩定發展。
這次OpenAI重啟開放權重策略,被廣泛視為CEO Sam Altman在2025年Reddit AMA中提及「改變過去錯誤」的具體落實,對整體AI產業具有重大的示範和推動意義。
(首圖來源:Unsplash)
文章看完覺得有幫助,何不給我們一個鼓勵
請我們喝杯咖啡您的咖啡贊助將是讓我們持續走下去的動力
總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》 取消 確認(责任编辑:吴钟赫)
动画播出11集之后,《兽娘动物园》获得了超过270万的弹幕,成为了niconico历史上弹幕最多的动画,超越了《魔法少女小圆》此前在2011年保持的186万弹幕的历史纪录。...[详细]广东省开展商品过度包装、“天价”月饼和蟹卡蟹券等问题集中整治行动
这届晚会的主题是“用责任汇聚诚信的力量”,作为市场经济的主要力量,企业成为践行诚信的重要主体。...[详细]
这个观点非常普遍,普遍的原因也特别简单。...[详细]
提供多样化的教学模式,这方面都是家长比较关心的重点内容。...[详细]全球要闻:“五一”假期客流量大 北京移动运用大数据赋能城市管理
那时候方晔顿还在北大读研究生:“男生嘛,我们都爱踢足球。...[详细]
之所以说自由职业者是一种更轻模式的创业,在于自由职业本身就是一个人走通了从产品到专业能力品牌包装、定价、品牌传播、产品或内容出售的全产业链。...[详细]
2、AD-2虽然转化明细数次之,但综合数据与AD-3相比,此广告位效果不如AD-3的效果好,这反映出两方面原因,比如: 用户对AD-2位置的广告活动参与度不高,活动缺乏新引力。...[详细]
但在唐一看来,这样的想法完全是胡说八道,逆水行舟不进则退,中国餐饮行业竞争如此激烈,生存下去的唯一办法就是做大做强,而这样必定要借助资本力量助推。...[详细]
受欢迎的产品表现在两个层面,一是用起来非常方便,第二个要非常专业,能够支持复杂管理系统。...[详细]
那就意味着,举个例子,你应该写微博。...[详细]