人工智能，芯片加工的盡頭是電力

是的

就是

是的，陜西招商為何不打能源牌？

呵呵！

英偉達(dá)最新的消息是，新的訓(xùn)練框架電力需求減少到原來的1/350，推理框架電力需求減少到原來的1/4500，電力已經(jīng)不再是瓶頸了。

想想人腦幾百億神經(jīng)元，吃五谷雜糧，就可以自動運行人工智能，哪兒需要那么多電力？

侏羅紀(jì)蚊子240 發(fā)表于 2024-9-23 20:31
英偉達(dá)最新的消息是，新的訓(xùn)練框架電力需求減少到原來的1/350，推理框架電力需求減少到原來的1/4500，電力 ...

所以絕大多數(shù)人是笨蛋，包括你。
人腦之所以難全部開發(fā)，大概就是因為支持能量不足與散熱難解決。

英偉達(dá)新一代芯片并沒有不耗電。

英偉達(dá)的新一代芯片在性能上有了顯著提升，但同時也伴隨著更高的能耗。例如，英偉達(dá)H100 AI芯片的峰值功耗高達(dá)700瓦，每年每塊的耗電量相當(dāng)可觀。盡管有報道稱，新一代的英偉達(dá)芯片速度是上一代的30倍，但耗電量只有上一代的1/25，這表明在追求高性能的同時，英偉達(dá)也在努力降低能耗1。此外，英偉達(dá)正在開發(fā)熱水散熱系統(tǒng)，并聲稱這將使耗電量減少28%，這表明英偉達(dá)在技術(shù)和工程上進(jìn)行了創(chuàng)新，以減少其產(chǎn)品的能耗2。

然而，也有數(shù)據(jù)顯示，英偉達(dá)H100 AI芯片的總耗電量將超過歐洲小國的耗電量，這表明盡管有技術(shù)上的進(jìn)步，英偉達(dá)新一代芯片的能耗仍然是一個不可忽視的問題34。預(yù)計隨著全球ESG意識的提升，以及云端服務(wù)業(yè)者加速建設(shè)AI服務(wù)器，液冷散熱方案的滲透率預(yù)計將在2025年超過20%，這可能有助于進(jìn)一步降低能耗5。

綜上所述，英偉達(dá)新一代芯片在性能上有顯著提升，但同時也面臨著如何有效管理能耗的挑戰(zhàn)。英偉達(dá)正在通過技術(shù)創(chuàng)新和工程優(yōu)化來降低能耗，但新一代芯片的能耗問題仍然需要關(guān)注和進(jìn)一步解決。

就那自然環(huán)境和營商環(huán)境

誰來

慧通大模型。
該模型是西安電子科技大學(xué)落實教育部“人工智能大模型應(yīng)用示范行動（LEAD）”，堅持集成化、智能化、國際化的“3I”理念，依托西電教育數(shù)字化優(yōu)勢，自主研發(fā)的高等教育大模型。

新鮮出爐的西安本地產(chǎn)
陜西把使用電費給免了，讓它先沒有生存之憂慮，然后再快速進(jìn)化出第二代，第三代，…第N代
在這個領(lǐng)域冠絕全中國

西電新聞網(wǎng)訊（通訊員 楊肖 趙大虎）9月21日上午，在教育部高等學(xué)校教學(xué)信息化與教學(xué)方法創(chuàng)新指導(dǎo)委員會、教育部高等學(xué)校電子信息類專業(yè)教學(xué)指導(dǎo)委員會指導(dǎo)下，由西安電子科技大學(xué)主辦、中國電子教育學(xué)會承辦的第三屆智能教育大會在西安曲江國際會議中心拉開帷幕。期間，與會嘉賓共同見證了西安電子科技大學(xué)自研的“慧通大模型”正式發(fā)布。

西安電子科技大學(xué)信息化推進(jìn)辦公室主任苗啟廣教授介紹了學(xué)校計算機科學(xué)與技術(shù)學(xué)院大數(shù)據(jù)與視覺智能研究所自主研發(fā)的電子信息類學(xué)科大模型——慧通大模型。該模型是西安電子科技大學(xué)落實教育部“人工智能大模型應(yīng)用示范行動（LEAD）”，堅持集成化、智能化、國際化的“3I”理念，依托西電教育數(shù)字化優(yōu)勢，自主研發(fā)的高等教育大模型。苗啟廣闡述了生成式人工智能技術(shù)在高等教育應(yīng)用的國家政策背景，介紹了慧通大模型數(shù)據(jù)、硬件、算法的前期準(zhǔn)備，并對大模型具體功能和應(yīng)用進(jìn)行介紹，展望了慧通大模型的未來規(guī)劃。模型覆蓋了高校教、學(xué)、管、評等業(yè)務(wù)范圍，為高等學(xué)校人才培養(yǎng)提供智能化便利。

在全場嘉賓的見證下，西安電子科技大學(xué)校長張新亮教授，教育部高等學(xué)校教學(xué)信息化與教學(xué)方法創(chuàng)新指導(dǎo)委員會主任、武漢理工大學(xué)校長楊宗凱教授，教育部高等教育司課程教材與實驗室處劉永強處長，陜西省教育廳教育信息化處李享陽處長，西安電子科技大學(xué)副校長王泉教授，全國高等學(xué)校教學(xué)研究中心辦公室張龍主任，陜西省計算機學(xué)會理事長周興社教授，西安電子科技大學(xué)信息化推進(jìn)辦公室主任苗啟廣教授共同上臺點亮“慧通大模型”。

據(jù)悉，“慧通大模型”取得了4大應(yīng)用實效，即定位準(zhǔn)確的學(xué)科答疑、智能評價提升教學(xué)管理、學(xué)情分析促進(jìn)因材施教、智能客服只跑一次。試運行以來，師生使用近20萬人次，共服務(wù)超過90萬輪次對話問答，包含283門電子信息類學(xué)科課程、12個部門行政辦事指南、487份學(xué)校規(guī)章制度，廣泛服務(wù)于教師上課、學(xué)生答疑、教學(xué)評價和管理咨詢等方面。

下一步，西安電子科技大學(xué)將面向?qū)W校教育教學(xué)、教育管理和教育服務(wù)，持續(xù)優(yōu)化“慧通大模型”，打造“大模型+教育”新生態(tài)，為學(xué)校高質(zhì)量發(fā)展提供新動力。

電力

看看