大模型需要你知道Alluxio?、Ray，更需要知道CXL池化內(nèi)存
在《使用CXL內(nèi)存，應(yīng)用軟件需要修改嗎？》一文中，更多了解了FlexGen，一種結(jié)合CPU內(nèi)存，利用低端GPU進(jìn)行AI推理的技術(shù)，了解了CXL內(nèi)存是如何使用，如何發(fā)揮作用的，這里描述的主要是單機(jī)本地內(nèi)存擴(kuò)展的使用方式，也就是CXL1.1的用...
宋 家雨數(shù)據(jù)要素 第4頁(yè)
關(guān)注大數(shù)據(jù)技術(shù)與應(yīng)用，報(bào)道新基建、數(shù)據(jù)要素等方向的最新動(dòng)態(tài)
宋 家雨
使用CXL內(nèi)存，應(yīng)用軟件需要修改嗎？
為了發(fā)揮CXL內(nèi)存的價(jià)值，需要應(yīng)用軟件的參與嗎？ 不用調(diào)整應(yīng)用軟件，這是最好的結(jié)果。因?yàn)槌嘶ヂ?lián)網(wǎng)用戶，很多行業(yè)用戶沒(méi)有能力改寫(xiě)應(yīng)用軟件，軟件服務(wù)商修改軟件則需要視市場(chǎng)的需求而定，而這會(huì)是一個(gè)類(lèi)似“先有雞，還是先有蛋”的問(wèn)題，過(guò)程會(huì)比較漫長(zhǎng)...
宋 家雨
從現(xiàn)在開(kāi)始，你要習(xí)慣：服務(wù)器內(nèi)存包括DRAM+CXL Memory
從現(xiàn)在開(kāi)始，國(guó)內(nèi)用戶會(huì)越來(lái)越多見(jiàn)到CXL Memory（CXL內(nèi)存）設(shè)備，或者稱(chēng)為CXL Memory擴(kuò)展卡，其主要的作用之一，就是對(duì)服務(wù)器內(nèi)存（DRAM）進(jìn)行擴(kuò)展，也就是說(shuō)，未來(lái)服務(wù)器內(nèi)存將由DRAM和CXL Memory共同組成，其中，...
宋 家雨
谷歌發(fā)布解決幻覺(jué)問(wèn)題的AI模型DataGemma
谷歌最近公布了一款名為DataGemma的人工智能（AI）模型，旨在解決AI生成錯(cuò)誤信息的“幻覺(jué)”問(wèn)題。DataGemma模型結(jié)合了檢索交錯(cuò)生成（Retrieval-Interleaved Generation, RIG）和檢索增強(qiáng)生成（R...
崔 歡歡
服務(wù)器CXL互連之路：不畏浮云遮望眼
前言 今年3月底，一篇名為“CXL is Dead in the AI Era”的文章在中英文網(wǎng)絡(luò)開(kāi)始上流傳。文章以其抓人眼球的標(biāo)題和貌似專(zhuān)業(yè)的分析，被不少人轉(zhuǎn)載， 讓很多人對(duì)Compute Express Link (CXL)的發(fā)展產(chǎn)生了...
宋 家雨中科曙光“立體計(jì)算”實(shí)現(xiàn)金融核心業(yè)務(wù)AI發(fā)展
當(dāng)前，AI技術(shù)正深刻改變著金融業(yè)格局。基于深度學(xué)習(xí)、自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)、知識(shí)圖譜等技術(shù)快速發(fā)展普及，金融業(yè)務(wù)智能化水平不斷提升，金融行業(yè)也涌現(xiàn)出愈發(fā)豐富的業(yè)務(wù)模式。 盡管AI技術(shù)為金融業(yè)帶來(lái)了諸多機(jī)遇，但行業(yè)在推進(jìn)AI技術(shù)深入落地過(guò)程...
謝 世誠(chéng)
中信數(shù)字科技集團(tuán)揭牌成立，布局算力網(wǎng)絡(luò)和數(shù)字基建
9月5日，中信數(shù)字科技集團(tuán)有限公司在北京正式揭牌成立，著力打造中信集團(tuán)數(shù)字化轉(zhuǎn)型、數(shù)智化賦能、算力網(wǎng)絡(luò)與數(shù)字基礎(chǔ)設(shè)施建設(shè)運(yùn)維的新平臺(tái)。中信集團(tuán)黨委書(shū)記、董事長(zhǎng)奚國(guó)華，黨委副書(shū)記、副董事長(zhǎng)兼總經(jīng)理張文武共同為中信數(shù)字科技集團(tuán)揭牌。 據(jù)介紹，中...
謝 世誠(chéng)
肖鋼、朱嘉明亮相外灘大會(huì)，共議資產(chǎn)通證化引領(lǐng)Web3向?qū)?/a>
在數(shù)字經(jīng)濟(jì)發(fā)展浪潮之下，Web3與AI同樣被寄予厚望。 2024年9月5日，在上海舉行的2024 Inclusion?外灘大會(huì)“Web3數(shù)字夢(mèng)想的實(shí)體化”分論壇上，圍繞Web3產(chǎn)業(yè)實(shí)踐與技術(shù)演進(jìn)，第十三屆全國(guó)政協(xié)委員、中國(guó)證券監(jiān)督管理委員會(huì)...
謝 世誠(chéng)
中國(guó)版“Scale AI” 螞蟻數(shù)科發(fā)布 AI 數(shù)據(jù)標(biāo)注產(chǎn)品
提高數(shù)據(jù)數(shù)量、安全和多樣性，對(duì)提升大模型性能，推動(dòng)產(chǎn)業(yè)落地至關(guān)重要。從 2024 Incluison?外灘大會(huì)上了解到，螞蟻數(shù)科發(fā)布新一代數(shù)據(jù)標(biāo)注產(chǎn)品，向企業(yè)客戶提供AI 驅(qū)動(dòng)的全流程數(shù)據(jù)服務(wù)。 傳統(tǒng)數(shù)據(jù)標(biāo)注以人工為主，進(jìn)入大模型時(shí)代，企業(yè)...
謝 世誠(chéng)
AI金融管家“螞小財(cái)”全新亮相，可在螞蟻財(cái)富APP體驗(yàn)Pro版定制服務(wù)
在9月6日的外灘大會(huì)財(cái)富論壇上，螞蟻集團(tuán)AI金融管家“螞小財(cái)”新版升級(jí)亮相，并在支付寶APP內(nèi)全量對(duì)外。升級(jí)后的“螞小財(cái)”能更實(shí)時(shí)解讀熱點(diǎn)，更有銳度表達(dá)觀點(diǎn)，提供有問(wèn)必答、個(gè)性化的專(zhuān)業(yè)服務(wù)。同時(shí)，螞蟻財(cái)富全新APP搭載“螞小財(cái)”P(pán)ro版上線...
謝 世誠(chéng)