阿里云開源通義千問Qweb2 支持128K上下文 在測試中表現不俗 – 藍點網
阿里云今天推出了通義千問人工智能模型的藍點重大升級版本:Qwen2,該模型提供 5 個不同的阿里尺寸、上下文長度最高支持 128K tokens,云開源通義千并且在各項測試中表現不俗。問Q文測網
Qwen2 的上下試中所有尺寸版本均已同步在 GitHub、HuggingFace 和 ModelScope 上開源,表現不俗有興趣的藍點開發者可以立即獲取模型進行測試。

此次發布的阿里新版本亮點包括:
- 能力較此前版本有較大幅度提升,在開源模型測試中名列前茅
- 提供 5 個預訓練和指令微調模型,云開源通義千包括 Qwen2-0.5B、問Q文測網鎮江包夜學生妹(電話微信156-8194-*7106)一二線城市外圍模特伴游預約、空姐、模特、留學生、熟女、白領、老師、優質資源Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B 和 Qwen2-72B
- 在編程領域和數學方面的能力顯著提高
- 增加上下文長度,現在最高支持 128K tokens
- 在中文和英語的基礎上,增加 27 種語言相關的數據進行訓練

在 Qwen1.5 系列模型中只有 32B 和 110B 版使用 GQA,而在 Qwen2 中所有模型都使用 Qwen2,使用 GQA 后有助于提升推理能力和降低顯存的占用。
同時諸如 Qwen2-0.5B 和 1.5B 版可以在性能更低的設備上運行,例如在智能手機本地運行 Qwen2-0.5B 而不需要云端處理,這種也是未來的趨勢,未來可能所有智能設備都會支持 AI,這就需要更小的模型為本地運行提供支持。
模型評估顯示 Qwen2 能力超過 Llama3:
目前人工智能開源 / 開放社區中最重要的兩個貢獻者就是 Meta 和阿里云,Meta 主要就是 Llama 系列模型最新版本為 Llama3。
在開源 / 開放模型能力評測中,Qwen2-72B 版在各方面超過 Llama3-70B,也超過了 Mixtral-8x22B,所以現在壓力給到了 Meta,不知道 Meta 什么時候發布新版本。



阿里云 AI 團隊表示:
大規模預訓練后,我們對模型進行精細的微調,以提升其智能水平,讓其表現更接近人類。這個過程進一步提升了代碼、數學、推理、指令遵循、多語言理解等能力。此外,模型學會對齊人類價值觀,它也隨之變得更加對人類有幫助、誠實以及安全。我們的微調過程遵循的原則是使訓練盡可能規模化的同時并且盡可能減少人工標注。我們探索了如何采用多種自動方法以獲取高質量、可靠、有創造力的指令和偏好數據,其中包括針對數學的拒絕采樣、針對代碼和指令遵循的代碼執行反饋、針對創意寫作的回譯、針對角色扮演的 scalable oversight、等等。在訓練方面,我們結合了有監督微調、反饋模型訓練以及在線 DPO 等方法。我們還采用了在線模型合并的方法減少對齊稅。這些做法都大幅提升了模型的基礎能力以及模型的智能水平。
限時活動推薦:軟購618多款正版軟件2折購、QQ超會15月108元、B站大會員88元、騰訊視頻128元、愛奇藝138元。
(責任編輯:綜合)
- 《怪物獵人:世界》發售倒計時30天
- 童年影象中的超強BOSS 《龍珠醉覺》沙魯戰役演示
- 釜山止導演新片《天國公使》尾曝預報!人間煉獄已至
- 免費治斗游戲《華納大年夜治斗》7月26日開啟公測
- 《Fighting EX Layer》新DLC公布 兩個新角色曝光
- 漫繪家議員赤松健新止動 啟動開法保存老游戲項目
- 《烏客帝國4:矩陣更逝世》部分劇情掀脫:新矩陣更強大年夜更傷害
- 《仙劍奇俠傳一》VR版上線 齊國27個皆會可玩
- PS官方商店銷量曝光 《二之國2:幽靈國度》成為銷冠
- 這個技術尷尬了 你愿意為120Hz花錢嗎?
- 《哥譚騎士》新預報公布 芭芭推帶上貓頭鷹里具
- 《九州飛凰錄》水爆開測中 特性千人跨服治斗弄法掀秘
- 《絕地求生》排行榜2月27日重置 新賽季來臨
- Epic商鄉夏季特賣正式開啟 多款3A游戲大年夜做挨開
- 《堡壘之夜》50v50 V2版回歸 百人團戰其樂無窮
- 煮豆燃萁!小米盒子3s與小米盒子3c區別對比
- 假傳奇烏幫被端 《貪玩藍月》
- 《戰天2042》齊新電視預報 遠將去大年夜疆場的利降治戰
- 3D動作游戲《DISORDER》上線Steam預計第四季度正式發售
- FC游戲秘聞錄 《怯者斗惡龍》劍的稱吸用法之謎
- 深圳南山找小姐全套按摩包夜服務電vx《134-8006-5952》提供外圍女上門服務快速選照片快速安排不收定金面到付款30分鐘可到達 views+
- 北京西城高級資源上門服務vx《134-8006-5952》提供外圍女上門服務快速選照片快速安排不收定金面到付款30分鐘可到達 views+
- 上海普陀外圍上門服務vx《134-8006-5952》提供外圍女上門服務快速選照片快速安排不收定金面到付款30分鐘可到達 views+
- 長沙芙蓉高端外圍經紀人的聯系方式vx《134-8006-5952》提供外圍女上門服務快速選照片快速安排不收定金面到付款30分鐘可到達 views+
- 佛山高明空姐大學生兼職包夜服務vx《134-8006-5952》提供外圍女上門服務快速選照片快速安排不收定金面到付款30分鐘可到達 views+
- 佛山高明外圍(高級資源)真實外圍女上門外圍大學生vx《134-8006-5952》提供外圍女上門服務快速選照片快速安排不收定金面到付款30分鐘可到達 views+
- 佛山禪城美女約炮vx《134-8006-5952》提供外圍女上門服務快速選照片快速安排不收定金面到付款30分鐘可到達 views+
- 杭州下城酒店上門服務按摩資源vx《134-8006-5952》提供外圍女上門服務快速選照片快速安排不收定金面到付款30分鐘可到達 views+
- 北京西城小姐包夜vx《134-8006-5952》提供外圍女上門服務快速選照片快速安排不收定金面到付款30分鐘可到達 views+
- 大連甘井子(上門服務)外圍找服務vx《134-8006-5952》提供外圍女上門服務快速選照片快速安排不收定金面到付款30分鐘可到達 views+
