首頁 > 技術(shù) > 正文

英特爾以強(qiáng)大產(chǎn)品力,迎接生成式AI的廣闊機(jī)遇|熱聞

2023-03-31 15:47:21來源:中關(guān)村在線  

生成式AI能夠模仿人類生成的內(nèi)容,在改變我們工作和生活方式的諸多方面提供了一個(gè)令人興奮的機(jī)會(huì)。然而,這種快速演進(jìn)的技術(shù)也揭示出,在數(shù)據(jù)中心成功利用AI需要極其復(fù)雜的計(jì)算。

英特爾面向未來進(jìn)行了大量投資,希望每個(gè)人都能利用這項(xiàng)技術(shù),并能輕松進(jìn)行大規(guī)模部署。同時(shí),英特爾正與產(chǎn)業(yè)伙伴接洽,以支持一個(gè)基于信任、透明和多種選擇的開放式AI生態(tài)系統(tǒng)。

擁抱具有卓越性能的開源生成式AI


【資料圖】

生成式AI例如GPT-3和DALL-E等語言模型已經(jīng)存在一段時(shí)間了,但ChatGPT(一種可以進(jìn)行類似人類對(duì)話的生成式AI聊天機(jī)器人)則引發(fā)巨大轟動(dòng),讓人們開始關(guān)注傳統(tǒng)數(shù)據(jù)中心架構(gòu)的瓶頸。ChatGPT還加快了對(duì)硬件和軟件解決方案的需求,這些解決方案使AI能夠充分發(fā)揮其潛力?;陂_放方法和異構(gòu)計(jì)算的生成式AI使其更容易獲得,并更經(jīng)濟(jì)地部署最優(yōu)的解決方案。開放生態(tài)系統(tǒng)允許開發(fā)人員在優(yōu)先考慮功耗、價(jià)格和性能的同時(shí),隨時(shí)隨地構(gòu)建和部署AI,從而釋放生成式AI的力量。

網(wǎng)絡(luò)研討會(huì):英特爾將舉辦數(shù)據(jù)中心和人工智能事業(yè)部投資者網(wǎng)絡(luò)研討會(huì)

英特爾正在積極采取措施,并通過優(yōu)化主流的開源框架、庫和工具來實(shí)現(xiàn)出色的硬件性能,同時(shí)消除復(fù)雜性,來確保自身是實(shí)現(xiàn)生成式AI的明智選擇。近日,頂級(jí)機(jī)器學(xué)習(xí)開源庫Hugging Face發(fā)布的結(jié)果顯示了英特爾AI硬件加速器卓越的推理運(yùn)行速度,該結(jié)果基于對(duì)包含1760億個(gè)參數(shù)的BLOOMZ模型(一種基于轉(zhuǎn)換器的多語言大型語言模型(LLM)和包含70億參數(shù)的較小BLOOMZ模型進(jìn)行推理。其中,對(duì)于包含70億參數(shù)的較小BLOOMZ模型,Habana第一代Gaudi具有明顯的性價(jià)比優(yōu)勢(shì)。此外,Hugging Face Optimum Habana庫簡化了大型LLM的部署,用戶僅需對(duì)代碼進(jìn)行極小的修改。

英特爾研究院的研究人員還使用Habana Gaudi2在LMentry(一種最近提出的語言模型基準(zhǔn))零次學(xué)習(xí)設(shè)置下評(píng)估BLOOMZ。BLOOMZ的精度與GPT-3模型尺寸相似,如下圖所示,最大的176BBLOOMZ模型的性能優(yōu)于類似大小的GPT-3模型。

在100K LMentry提示上,BLOOMZ模型(最多1760億個(gè)參數(shù))使用HabanaGaudi加速器對(duì)生成的語言輸出進(jìn)行的自動(dòng)評(píng)估。

此外,Hugging Face亦介紹了Stability AI的Stable Diffusion,這是另一個(gè)用于從文本生成圖像的最先進(jìn)生成式AI模型之一,也是流行的 DALL-E圖像生成器的開放訪問替代方案,Stable Diffusion在內(nèi)置英特爾®高級(jí)矩陣擴(kuò)展(英特爾AMX)的第四代英特爾至強(qiáng)可擴(kuò)展處理器上運(yùn)行的平均速度提高了3.8倍。這種加速是在不更改任何代碼的情況下實(shí)現(xiàn)的。此外,通過使用英特爾Extension for PyTorch with Bfloat16(一種用于機(jī)器學(xué)習(xí)的自定義格式),自動(dòng)混合精度可以再提速一倍,并將延遲減少到5秒——比初始基線32秒快了近6.5倍。用戶可在HuggingFace網(wǎng)站上一個(gè)基于英特爾CPU(第四代至強(qiáng)處理器)的實(shí)驗(yàn)性Stable Diffusion演示中進(jìn)行自行嘗試。

Stability AI創(chuàng)始人兼首席執(zhí)行官Emad Mostaque表示:“在Stability AI,我們希望讓每個(gè)人都能構(gòu)建自己的AI技術(shù)。英特爾已經(jīng)使Stable Diffusion模型能夠高效運(yùn)行在他們的異構(gòu)產(chǎn)品上——從第四代Sapphire Rapids CPU一直到像Gaudi這樣的加速器,因此是實(shí)現(xiàn)AI民主化的一個(gè)絕佳合作伙伴。我們期待在下一代語言、視頻和代碼模型等方面與他們合作?!?/p>

OpenVINO進(jìn)一步加速了Stable Diffusion推理。結(jié)合使用第四代至強(qiáng)CPU,它的速度幾乎比第三代英特爾至強(qiáng)®可擴(kuò)展CPU提高了2.7倍。Optimum Intel是OpenVINO支持的一個(gè)工具,用于加速英特爾架構(gòu)上的端到端管道,它將平均延遲再降低3.5倍,總共降低近10倍。

解決價(jià)格、性能和效率問題

此外,為滿足減少用電量的關(guān)鍵需求及不斷增長的性能需求,還需要提供更加可持續(xù)的解決方案。一個(gè)開放的生態(tài)系統(tǒng)可以消除阻礙進(jìn)步的障礙,使開發(fā)人員能夠在每一項(xiàng)工作中都能夠使用最好的硬件和軟件工具進(jìn)行創(chuàng)新。

Gaudi2與第一代Gaudi構(gòu)建在相同的高效架構(gòu)上,可助力大規(guī)模工作負(fù)載的性能和效率達(dá)到全新高度,并在運(yùn)行AI工作負(fù)載時(shí)展現(xiàn)出強(qiáng)大的能效優(yōu)勢(shì)。

大規(guī)模AI工作負(fù)載還需要達(dá)到“一次構(gòu)建、隨處部署”方式,這種方式基于靈活、開放的解決方案,能夠?qū)崿F(xiàn)更好的能效。第四代至強(qiáng)處理器是英特爾最具可持續(xù)性的數(shù)據(jù)中心處理器,有著更高的能效和節(jié)能效果。憑借英特爾AMX這樣的內(nèi)置加速器,在廣泛的AI工作負(fù)載和使用案例中,推理和訓(xùn)練性能可提高10倍,同時(shí)其每瓦性能相較英特爾前代產(chǎn)品最多可提升14倍3。

英特爾(Intel) i5-12400F 12代 酷睿 CPU處理器 6核12線程 單核睿頻至高4.4Ghz 10400F迭代升級(jí)款

[經(jīng)銷商]京東商城

[產(chǎn)品售價(jià)]¥1349元

進(jìn)入購買

標(biāo)簽:

相關(guān)閱讀

  • 如何默哀 默哀具體做法
    如何默哀 默哀具體做法

    如何默哀默哀具體應(yīng)該怎么做啊

    2023-03-31
  • 天天熱推薦:蘇醒新專輯《SOMEONE》首發(fā) 快和小編一起了解下吧
    天天熱推薦:蘇醒新專輯《SOMEONE》首發(fā) 快和小編一起了解下吧

    酷奇網(wǎng)分享蘇醒新專輯《SOMEONE》首發(fā)蘇醒柔和回歸,酷奇娛樂網(wǎng)訊繼上一張專輯《三十未滿》后,時(shí)隔一年...

    2023-03-31
  • 素媛案件真實(shí) 素媛案件真實(shí)情況簡述如下
    素媛案件真實(shí) 素媛案件真實(shí)情況簡述如下

    素媛案件真實(shí)素媛案件真實(shí)情況簡述

    2023-03-31
  • 小丑回魂中小丑的身世是什么 影片劇情講解
    小丑回魂中小丑的身世是什么 影片劇情講解

    小丑回魂中小丑的身世是什么小丑回魂小丑身份是啥

    2023-03-31
  • 如何去潘達(dá)利亞 還不會(huì)的小伙伴看過來 焦點(diǎn)日?qǐng)?bào)
    如何去潘達(dá)利亞 還不會(huì)的小伙伴看過來 焦點(diǎn)日?qǐng)?bào)

    如何去潘達(dá)利亞WOW潘達(dá)利亞大陸怎么去啊

    2023-03-31
  • 留娘糕制作方法 自己動(dòng)手試試吧
    留娘糕制作方法 自己動(dòng)手試試吧

    留娘糕制作方法

    2023-03-31
  • 中寶新材在港交所上市,盤中一度跌逾39%
    中寶新材在港交所上市,盤中一度跌逾39%

    財(cái)經(jīng)網(wǎng)訊3月31日,中寶新材在香港聯(lián)合交易所主板掛牌上市。上市首日,該公司一度跌逾39%。公開資料顯示...

    2023-03-31
  • dnf召喚師加點(diǎn) 刷圖加點(diǎn)詳解如下
    dnf召喚師加點(diǎn) 刷圖加點(diǎn)詳解如下

    dnf召喚師加點(diǎn)刷圖加點(diǎn)詳解

    2023-03-31
  • 被稱為死亡之海的是哪個(gè)沙漠 塔克拉瑪干沙漠介紹_環(huán)球速看料
    被稱為死亡之海的是哪個(gè)沙漠 塔克拉瑪干沙漠介紹_環(huán)球速看料

    被稱為死亡之海的是哪個(gè)沙漠被稱為死亡之海的是塔克拉瑪干沙漠

    2023-03-31
  • nba2konline技巧 相關(guān)信息分享_全球微資訊
    nba2konline技巧 相關(guān)信息分享_全球微資訊

    nba2konline技巧快來看看

    2023-03-31
  • 凱爾特人客場(chǎng)140比99輕取聯(lián)盟排名第一的雄鹿
    凱爾特人客場(chǎng)140比99輕取聯(lián)盟排名第一的雄鹿

    凱爾特人客場(chǎng)140-99輕取聯(lián)盟排名第一的雄鹿,本賽季的3次常規(guī)賽交鋒,凱爾特人2勝1負(fù)。綠軍雙探花三節(jié)打...

    2023-03-31
  • 股票市值越高越好還是越低越好 普通人怎么加杠桿買房?
    股票市值越高越好還是越低越好 普通人怎么加杠桿買房?

    股票總市值高好還是低好?股票總市值高更好,因?yàn)橐馕吨@家公司的市場(chǎng)價(jià)值更高,這種類型的股票穩(wěn)定性較...

    2023-03-31
  • 超級(jí)虐心的古代言情小說推薦 書荒的小伙伴快看起來
    超級(jí)虐心的古代言情小說推薦 書荒的小伙伴快看起來

    超級(jí)虐心的古代言情小說推薦5本超級(jí)虐心的古代言情小說推薦給你

    2023-03-31
  • 魔獸世界情侶名字 魔獸世界情侶名字大全
    魔獸世界情侶名字 魔獸世界情侶名字大全

    魔獸世界情侶名字魔獸世界情侶名字推薦

    2023-03-31
  • 張一山父親張曉武簡歷 張一山家庭背景|全球聚焦
    張一山父親張曉武簡歷 張一山家庭背景|全球聚焦

    張一山父親張曉武簡歷母親叫什么

    2023-03-31
  • 怎么測(cè)試新液晶顯示器 測(cè)試方法如下文
    怎么測(cè)試新液晶顯示器 測(cè)試方法如下文

    怎么測(cè)試新液晶顯示器

    2023-03-31
  • 長江一帆遠(yuǎn)下一句應(yīng)該是落日五湖春(長江一帆遠(yuǎn)的下一句)
    長江一帆遠(yuǎn)下一句應(yīng)該是落日五湖春(長江一帆遠(yuǎn)的下一句)

    一、題文閱讀下面一首唐詩,完成小題。(5分)餞別王十一南游劉長卿望君煙水闊,揮手淚沾巾。飛鳥沒何處...

    2023-03-31
  • NBA常規(guī)賽繼續(xù)進(jìn)行國王隊(duì)對(duì)陣開拓者隊(duì)
    NBA常規(guī)賽繼續(xù)進(jìn)行國王隊(duì)對(duì)陣開拓者隊(duì)

    NBA常規(guī)賽繼續(xù)進(jìn)行,國王隊(duì)對(duì)陣開拓者隊(duì)。此役國王隊(duì)取勝就可提前鎖定季后賽名額,但上半場(chǎng)比賽,開拓者...

    2023-03-31
  • 玩黑暗之魂需要什么配置 文章為你詳細(xì)列舉
    玩黑暗之魂需要什么配置 文章為你詳細(xì)列舉

    玩黑暗之魂需要什么配置

    2023-03-31
  • 網(wǎng)上洗照片流程 怎么在網(wǎng)上沖洗照片
    網(wǎng)上洗照片流程 怎么在網(wǎng)上沖洗照片

    網(wǎng)上洗照片流程怎么在網(wǎng)上沖洗照片

    2023-03-31
  • 磁懸浮列車的速度是多少(上海磁懸浮列車速度) 動(dòng)態(tài)焦點(diǎn)
    磁懸浮列車的速度是多少(上海磁懸浮列車速度) 動(dòng)態(tài)焦點(diǎn)

    一、題文我國上海的磁懸浮列車的平均速度為430公里 小時(shí),是目前世界上最高端且運(yùn)行速度最快的列車,這...

    2023-03-31
  • 一季度新成立基金規(guī)模近3000億元 權(quán)益類基金發(fā)行明顯回暖-天天快資訊
    一季度新成立基金規(guī)模近3000億元 權(quán)益類基金發(fā)行明顯回暖-天天快資訊

    中國網(wǎng)財(cái)經(jīng)3月31日訊(記者張明江)白駒過隙,2023年一季度已然過去,資本市場(chǎng)也在震蕩中虛度三個(gè)月。震蕩...

    2023-03-31
  • 丹佛掘金隊(duì)坐鎮(zhèn)主場(chǎng)迎來了新奧爾良鵜鶘隊(duì)的挑戰(zhàn)
    丹佛掘金隊(duì)坐鎮(zhèn)主場(chǎng)迎來了新奧爾良鵜鶘隊(duì)的挑戰(zhàn)

    NBA常規(guī)賽繼續(xù)火熱進(jìn)行。丹佛掘金隊(duì)坐鎮(zhèn)主場(chǎng),迎來了新奧爾良鵜鶘隊(duì)的挑戰(zhàn)。該場(chǎng)比賽,尼古拉約基奇、錫...

    2023-03-31
  • 男人若“前列腺”癌變,身上“2痛1大”會(huì)顯露,早了解早自查
    男人若“前列腺”癌變,身上“2痛1大”會(huì)顯露,早了解早自查

    前列腺是男性特有的腺體,對(duì)男性來說,前列腺的健康非常重要,而前列腺癌的發(fā)病率很高,伴隨著男性年齡...

    2023-03-31
  • 最新西部排行榜!7組搶到了一個(gè)名額!太陽隊(duì)快船隊(duì)勇士隊(duì)爭(zhēng)第四
    最新西部排行榜!7組搶到了一個(gè)名額!太陽隊(duì)快船隊(duì)勇士隊(duì)爭(zhēng)第四

    最新西部排行榜!7組搶到了一個(gè)名額!太陽隊(duì)快船隊(duì)勇士隊(duì)爭(zhēng)第四NBA的常規(guī)賽,依舊在如火如荼的進(jìn)行著。...

    2023-03-31
  • 每日看點(diǎn)!進(jìn)攻頂級(jí),防守也不遜色,凱爾特人后場(chǎng)大將或成為季后賽X因素?
    每日看點(diǎn)!進(jìn)攻頂級(jí),防守也不遜色,凱爾特人后場(chǎng)大將或成為季后賽X因素?

    在今日的一場(chǎng)NBA常規(guī)賽中,波士頓凱爾特人以140比99完虐了密爾沃基雄鹿多達(dá)41分令人感到瞠目結(jié)舌。本場(chǎng)...

    2023-03-31
  • 老年黃斑病變50萬患者香港第二大致盲元兇
    老年黃斑病變50萬患者香港第二大致盲元兇

    隨著本港人口老化,老年黃斑病變(乾性及濕性)愈趨普遍,估計(jì)現(xiàn)時(shí)約有50萬港人1患此疾病,當(dāng)中的濕性老...

    2023-03-31
  • 57分鐘通話,挽救了一條生命!|環(huán)球視訊
    57分鐘通話,挽救了一條生命!|環(huán)球視訊

    日前,內(nèi)蒙古呼和浩特市公安局110接到電話,一名女孩因家庭瑣事,欲

    2023-03-31
  • 孫雯大手筆,中國女足再傳喜訊,水慶霞如虎添翼,世界杯爭(zhēng)冠有戲
    孫雯大手筆,中國女足再傳喜訊,水慶霞如虎添翼,世界杯爭(zhēng)冠有戲

    北京時(shí)間3月31日,中國女足正在水慶霞的帶領(lǐng)下進(jìn)行著封閉集訓(xùn),球隊(duì)在本年度的比賽任務(wù)繁重,作為中國足...

    2023-03-31
  • 大美中國 候鳥北歸丨候鳥“機(jī)場(chǎng)”補(bǔ)給全攻略
    大美中國 候鳥北歸丨候鳥“機(jī)場(chǎng)”補(bǔ)給全攻略

    廣西北海市處在東亞—澳大利西亞全球候鳥重要的遷徙線路上,每年有

    2023-03-31
  • 西媒:安切洛蒂在皇馬缺轉(zhuǎn)會(huì)發(fā)言權(quán),他想換替補(bǔ)門將而不得
    西媒:安切洛蒂在皇馬缺轉(zhuǎn)會(huì)發(fā)言權(quán),他想換替補(bǔ)門將而不得

    直播吧3月30日訊西媒football-espana報(bào)道,皇馬和安切洛蒂在年輕人的使用上存在分歧,他想換一個(gè)更有經(jīng)...

    2023-03-31
  • 遼寧三消息:遼籃棄將賽季報(bào)銷!郭艾倫回應(yīng)球迷噓聲!官方發(fā)訃告
    遼寧三消息:遼籃棄將賽季報(bào)銷!郭艾倫回應(yīng)球迷噓聲!官方發(fā)訃告

    問:怎樣才能每天都收到這樣的體育資訊?答:點(diǎn)擊右上角關(guān)注即可前遼寧男籃棄將,遼寧出品球員,上賽季...

    2023-03-31
  • 英雄之光 | 3月31日至4月5日,華北軍區(qū)烈士陵園舉辦“省會(huì)各界公祭革命烈士大會(huì)”
    英雄之光 | 3月31日至4月5日,華北軍區(qū)烈士陵園舉辦“省會(huì)各界公祭革命烈士大會(huì)”

    河北日?qǐng)?bào)3月30日訊(記者高珊)今天,從華北軍區(qū)烈士陵園召開的新聞

    2023-03-31
  • 上海電影(601595)3月31日11點(diǎn)20分觸及漲停板 全球熱點(diǎn)
    上海電影(601595)3月31日11點(diǎn)20分觸及漲停板 全球熱點(diǎn)

    3月31日盤中消息11點(diǎn)20分上海電影601595觸及漲停板目前價(jià)格199上漲1001其所屬行業(yè)影視院線目前上漲領(lǐng)漲...

    2023-03-31
  • 開源證券2022年?duì)I收超26億,排名創(chuàng)歷史新高,投行業(yè)務(wù)量質(zhì)齊升|每日關(guān)注
    開源證券2022年?duì)I收超26億,排名創(chuàng)歷史新高,投行業(yè)務(wù)量質(zhì)齊升|每日關(guān)注

    3月30日,開源證券披露2022年年度報(bào)告。報(bào)告顯示,2022年公司實(shí)現(xiàn)營收26 37億元,凈利潤5 15億元,營...

    2023-03-31
  • 新華網(wǎng)評(píng):將一份熱愛堅(jiān)守一輩子,便成了傳奇_全球熱消息
    新華網(wǎng)評(píng):將一份熱愛堅(jiān)守一輩子,便成了傳奇_全球熱消息

    2022年4月19日,沈燮元在辦公室對(duì)《士禮居題跋》書稿進(jìn)行二校。新華

    2023-03-31
  • 山東安居網(wǎng)絡(luò)科技,專注于智慧團(tuán)建養(yǎng)老平臺(tái),誠信積分未來的發(fā)展趨勢(shì)是怎樣的
    山東安居網(wǎng)絡(luò)科技,專注于智慧團(tuán)建養(yǎng)老平臺(tái),誠信積分未來的發(fā)展趨勢(shì)是怎樣的

    山東安居網(wǎng)絡(luò)科技有限公司成立于2014年,24小時(shí)咨詢熱線:139-5339-4888,從事軟件開發(fā)、電子商務(wù)、策劃咨...

    2023-03-31
  • 精彩推薦

    相關(guān)詞

    推薦閱讀