18无删减羞羞网站动漫-18未满禁止观看黄瓜视频-18岁以下禁止看很黄的视频-18岁免费网站-特级全黄一级毛片免费-特级全黄

首頁 > 生活分享 > 免費教學 > 微軟發(fā)布Phi-3 Mini:3.8B參數小到能塞進手機,性能媲美GPT-3.5

微軟發(fā)布Phi-3 Mini:3.8B參數小到能塞進手機,性能媲美GPT-3.5

發(fā)布時間:2024-04-24 22:46:37來源: 15210273549

 

編譯 | 長頸鹿
編輯 | 香草

智東西4月24日報道,4月23日,微軟在官網開源了小語言模型(SLM)——Phi-3-mini。這是微軟Phi-3系列模型推出的首個模型。

Phi-3-mini作為微軟Phi系列的第四代產品,以其38億參數和3.3T tokens的龐大訓練數據量,在語言、推理、編碼和數學基準測試中超越了眾多數百億參數規(guī)模的模型。

此外,Phi-3-mini有4k和128k tokens兩個上下文長度變體,經過預訓練和指令調整,可以更好地理解人類的語言、表達、邏輯并執(zhí)行不同類型的指令。

與大語言模型相比,Phi-3-mini模型操作更為簡便。該模型的體積很小,這一特性使其可以在端側部署和運行。據稱,該模型可以作為聊天機器人離線訪問,且具有不亞于GPT-3.5的性能。

Phi-3-mini的成本大幅降低。微軟生成式AI研究副總裁塞巴斯蒂安·布貝克(Sébastien Bubeck)稱,相比于其他相似功能的模型,Phi-3-mini成本可能只有十分之一。

據微軟研究團隊稱,Phi-3-mini小體積、高性能的創(chuàng)新歸功于由合成數據組成的數據集。該數據集由大量已過濾的網絡數據和其他AI制作的兒童讀物中的合成數據組成。

微軟計劃在未來幾周內推出Phi-3系列的另外兩個模型,分別是Phi-3-small(7B)和Phi-3-medium(14B)。

目前有三個平臺可以獲取Phi-3-mini:

Microsoft Azure AI Studio:https://ai.azure.com/explore/models/Phi-3-mini-128k-instruct/version/2/registry/azureml

Hugging Face:https://huggingface.co/collections/microsoft/phi-3-6626e15e9585a200d2d761e3

Ollama:https://ollama.com/library/phi3

一、“小而美”的模型,Phi-3-mini優(yōu)于兩倍其尺寸模型

據微軟官網稱,Phi-3模型是目前能力最強、性價比最高的小型語言模型(SLM),其在多種語言、推理、編碼和數學基準測試中均展現出超越同等規(guī)模甚至更大型模型的能力。

Phi-3-mini包含兩種上下文長度的規(guī)模,分別是4k和128k tokens,其中128k tokens的上下文窗口支持在同類模型是首次實現,且對模型質量的影響微乎其微。此外,該模型經過指令微調,能夠以自然語言方式響應和執(zhí)行多種指令,確保了其即時可用性。

Phi-3模型在小尺寸上具有突破性的性能。根據微軟研發(fā)團隊的測試,Phi-3模型在基準測試中優(yōu)于相同尺寸和更大尺寸的語言模型。其中,Phi-3-mini的性能優(yōu)于其尺寸兩倍的模型,而Phi-3-small和Phi-3-medium的性能優(yōu)于更大的模型,包括GPT-3.5 Turbo。

根據性能對照表,Phi-3-mini的兩個變體于基準測試的19個對比項中,有17項勝過Gemma-7b模型,18項勝過Mistral-7b模型,11項勝過Llama-3-8B模型。但也有11項次于GPT3.5-Turbo模型,17項次于Claude-3 Sonnet模型。

 

▲Phi-3系列基準測試對照表(圖源:微軟)

此外,微軟還在學術報告中稱Phi-3模型的整體性能可以與Mixtral 8x7B和GPT-3.5等模型相媲美。

Phi系列模型的起源于微軟研究部門,已經被廣泛使用,其中Phi-2下載量超過200萬次。從用于Python編碼的Phi-1開始,到增強推理和理解的Phi-1.5,再到27億參數的Phi-2,Phi系列在語言理解方面超越了其25倍參數大小的模型。

微軟計劃在未來幾周內推出Phi-3系列的另外兩個模型,分別是Phi-3-small(7B)和Phi-3-medium(14B),旨在為Azure AI和其他模型庫提供更靈活的選擇。

二、Phi-3遵循安全和高質,Phi-3-mini為多個平臺專門優(yōu)化

Phi-3模型的設計遵循了微軟的“負責任AI標準”,包括問責制、透明度、公平性、可靠性與安全性、隱私與安全和包容性。Phi-3模型經歷了嚴格的安全度量和評估、紅隊測試、敏感用途審查,并遵循安全指南,以確保這些模型在開發(fā)、測試和部署過程中都符合微軟的標準和最佳實踐。

Phi-3模型在訓練過程中采用了高質量的數據,這是基于先前的Phi模型工作的延續(xù)。它們還通過了廣泛的安全后訓練,包括從人類反饋中進行的強化學習(RLHF)、在數十個傷害類別上進行的自動測試和手動紅隊測試。

此外,Phi-3-mini在Azure AI上配備了一套完整的部署、評估和微調工具鏈,并通過Ollama平臺使開發(fā)者能夠在本地筆記本電腦上運行。模型還針對ONNX Runtime進行了優(yōu)化,支持Windows DirectML,并且實現了跨平臺支持,包括GPU、CPU和移動硬件。

同時,Phi-3-mini也作為英偉達推理微服務(NVIDIA NIM)提供,具備可廣泛部署的標準API接口,并對英偉達GPU進行了專門優(yōu)化。

三、Phi-3提供離線推理場景,AI解決方案已落地印度

微軟公司通過提供Copilots幫助客戶用生成式AI進行業(yè)務轉型。他們認為,不同任務對質量成本曲線上不同規(guī)模模型的需求正日益增長。

小語言模型,如Phi-3,特別適用于以下情況:資源受限的環(huán)境,包括設備上和離線推理場景;延遲約束的場景,快速響應時間至關重要;以及成本受限的用例,特別是那些具有較簡單任務的用例。

由于尺寸較小,Phi-3模型可以在計算受限的推理環(huán)境中使用,特別是Phi-3-mini可以在端側使用。Phi-3模型的較小尺寸還使得微調或定制變得更加容易和更具成本效益。此外,較低的計算需求使其成本更低,延遲更好。較長的上下文窗口使其能夠處理和推理大量的文本內容,如文檔、網頁、代碼等。

微軟的一些客戶已經開始使用Phi-3構建解決方案。比如農業(yè)領域,Phi-3模型為農民提供了更便捷、更經濟的解決方案,并幫助他們在沒有穩(wěn)定互聯網連接的情況下使用AI技術。

印度一家領先的商業(yè)集團ITC正在將Phi-3模型用于Krishi Mitra(一款面向農民的應用程序)內,幫助印度農民通過技術手段獲得更好的農業(yè)解決方案。據悉,該應用已經覆蓋了超過一百萬名農民。

結語:大小模型相輔相成,離線AI聊天已成現實

微軟的Phi-3模型設計的初衷旨在兼容多種設備。Phi-3與Stability AI的Zephyr、谷歌的Gemini Nano和Anthropic的Claude 3 Haiku等小型模型一樣,能夠在端側運行,而無需依賴互聯網連接。

盡管云端大模型在性能上全面超越小模型,但它們也存在一些局限性,包括較高的成本、運行速度以及對互聯網連接的依賴。相比之下,Phi-3允許用戶在沒有網絡的情況下與虛擬助手進行互動,能夠在不上傳數據的前提下實現內容總結,解決了AI領域的一部分弊端。

未來這類模型有望與智能手機集成,甚至可能內置于常用家電中,為用戶的生活提供個性化建議。我們期待AI變得越來越生活化,也期待小語言模型在未來的進步

免費教學更多>>

通用具身智能平臺發(fā)布,未來兩三年內,人形機器人在柔性制造場景有望實現較大規(guī)模應用 新技能get!人形機器人學會連續(xù)后空翻統(tǒng)共需幾步?揭秘→ L3級智能駕駛技術,2025年你準備好放手開車了嗎? 智能駕駛技術,重構與未來交通的多維演進 濟南地鐵4號線車來了!全自動無人駕駛,最多載2590人 首輛無人駕駛快遞車亮相贛州街頭 “人工智能+”智賦千行百業(yè)! AI聊天工具:情感支持的新選擇,還是心理健康的潛在隱患? 快手電商在泉州石獅舉辦產業(yè)帶培訓會,助力新商快速冷啟躍遷 快手聯合京東打造溫暖開學季,打印春天公益課堂激發(fā)孩子創(chuàng)造力 2025“防爆”:電商售假、元宇宙滑坡、ESG漂綠…… 現在干電商還能賺錢嗎?這五個實打實的好處你必須知道 快手聯合京東打造溫暖開學季,打印春天公益課堂激發(fā)孩子創(chuàng)造力 力度空前,京東超級國補20%+換新30%!就在今天買家電至高立減50% 《SUDU品牌服裝創(chuàng)業(yè)史》我們的淘寶創(chuàng)業(yè)路 房貸族必看!輕松操作,每年省出一部手機錢 2月金融數據出爐!房貸利率維持歷史低位,信貸總量還有后勁 呼和浩特出臺首套房購房補貼實施細則:單套最高不超過5萬 青島二手房單日成交破300套,量漲為何價難升? 申花樓市換主角:一月狂賣53套,均價7.5萬元/㎡!|二手房流量擔當 核心城市二手房市場升溫,小陽春行情已至? 二手房交易迎來“攪局者”,不顛覆的自如想做什么? 新房裝修色調搭配全攻略,打造理想家居空間 2025年樓市:買房還是存錢?一場財富博弈的深度解讀 樓市回暖信號密集釋放:政策+市場雙輪驅動復蘇 房價在未來十年還會上漲嗎?把握趨勢,洞察先機! 大會初定?房產稅要來了?行家議定免征面積,超出每年12000元? 五方面發(fā)力!烏蘭察布市全力推進高質量充分就業(yè) 未來5年普通人的就業(yè)發(fā)展機會:趨勢、賽道與破局策略 廣西容縣:組織10035名教師接受師德師風警示教育
主站蜘蛛池模板: 你懂的国产精品 | 成人高清视频免费观看 | 国产精品深夜福利免费观看 | 四虎永久网址影院 | 丝袜美腿精品国产首页 | 国产成人综合一区精品 | 成人日韩欧美 | 图片区小说欧洲区 | 99精品视频不卡在线观看免费 | 国产亚洲欧美在在线人成 | 国产3区 | 国产黄色片网站 | 在线免费看污视频 | 国产精品午夜国产小视频 | 欧美色第一页 | 91久久精品国产一区二区 | 四虎免费影院ww4164h | 久久中文字幕制服丝袜美腿 | 级毛片久久久毛片精品毛片 | 午夜免费福利不卡网址92 | 大香伊人久久 | 麻豆视频网站 | 国产精品久久久久久小说 | 久热国产vs视频在线观看 | 成人污视频在线观看 | 成人黄色小视频 | 欧美视频不卡一区二区三区 | 青青热久免费精品视频网站 | 老司机午夜性生免费福利 | 污污视频在线观看免费 | 无夜精品久久久久久 | 国产日韩精品一区在线不卡 | 亚洲免费视| 精品精品国产欧美在线观看 | 四虎影视永久在线精品免费 | 国产a国产片| 最新国产精品 | 亚洲玖玖| 久久思re热9一区二区三区 | 五月激激激综合网色播免费 | 国家一级毛片 |