OpenAI 推出首款開源推理思維鏈(chain-of-thought,簡稱 CoT)模型「gpt-oss-20b」,此模型可直接在搭載 Snapdragon 旗艦處理器的裝置上運行。高通指出,這是一次重大進展,過去 OpenAI 先進模型僅限於雲端運行,這次首度讓模型可在裝置端進行推理。
高通已取得該模型的提前存取權,並與高通 AI 疊層(Qualcomm AI Stack)和 AI 引擎進行整合測試。測試結果相當出色。完整的思維鏈推理能完全在裝置上運行,無須依賴雲端。此模型不僅快速、具隱私性,也為在手機上的個人化智慧代理體驗開創新的可能。
高通指出,開發者將可在發佈當日,透過 Hugging Face 和 Ollama 存取 gpt-oss-20b,近期也將在 Qualcomm AI Hub 公布更多部署細節。與Ollama整合,也代表像是網路搜尋、渦輪模式(Turbo Mode)等開箱即用功能也已經整合完成。
高通認為,未來幾年,隨著行動裝置的記憶體容量持續成長、軟體堆疊愈加高效,裝置端 AI 的能力將快速提升,AI 助理也將會無所不在、個人化,並且能在裝置端運行。
(首圖來源:科技新報)
文章看完覺得有幫助,何不給我們一個鼓勵
請我們喝杯咖啡您的咖啡贊助將是讓我們持續走下去的動力
總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》 取消 確認(责任编辑:常石磊)
淘宝当年没有做可进可退,它是把等级设成了只进不退的红心-钻石-皇冠-金冠模式。...[详细]
KTV类产品是体验的极致化,而充电宝类产品是刚需的极致化。...[详细]
1996年4月16日,女演员林允出生。...[详细]
TOP3:Keep首支品牌宣传片《自律给我自由》 胡辛束(胡辛束公众号创始人、知名作家、自媒体人):“自律给我自由”这句slogan成为了当下年轻人非常认可的一种价值观。...[详细]
(3)对站长来说,我的网站都有机会进行优质展示了,是好事。...[详细]
因此,在某些情况下,期待老板给予我们幸福感会让我们变得情感脆弱。...[详细]
其实《王者荣耀》并没解决掉这些缺点的原因主要有以下几点: (1)服务器差、网络不好、游戏卡等都是跟整个手游的大环境和技术有关的,没有哪个团队会希望自己的游戏出现这种基础的问题,所以如果真的出现了这些...[详细]
在2010年,niconico成为了日本第一家实现盈利的视频类网站。...[详细]
” 作为雷军十几年的朋友,毕胜对雷军的话从不怀疑,既然大哥给指了条“明路”,那就干。...[详细]
因为即便不在该机构,也不用担心未来拿不到项目奖金。...[详细]