桑間濮上網(wǎng)人工智能公司MosaicML稱不要迷信英偉達芯片 AMD芯片提供類似性能 – 藍點網(wǎng)
目前在人工智能熱潮下英偉達股價水漲船高，人工因為人工智能模型訓(xùn)練依靠英偉達提供的公司 A100/H100 加速卡。
至少在之前業(yè)內(nèi)基本都認同英偉達的迷信加速卡提供最佳的性能，所以英偉達的英偉這些專用加速卡被各大公司哄搶。
人工智能初創(chuàng)公司MosaicML在詳細評測后稱大家不應(yīng)該迷信英偉達芯片 ,達芯 因為AMD米蘭芯片的性能并不差。
該公司使用多種工具對英偉達A100加速卡和AMD MI250加速卡進行測試，芯片性測試顯示MI250加速卡也足夠用。提供
兩款加速卡的類似藍點對比：
英偉達A100加速卡和AMD MI250加速卡均為上一代產(chǎn)品，最新產(chǎn)品是人工英偉達H100/AMD MI300系加速卡。
選擇這兩款相對來說價格劃算點的公司加速卡進行測試，然后在不改變底層軟件代碼的迷信情況下用來訓(xùn)練LLM算法。
MosaicML稱在基于實際工作負載測試中，英偉LLM訓(xùn)練堆棧保持穩(wěn)定且性能良好，達芯不需要進行額外的芯片性各種配置。
其中AMD MI250加速卡的提供每GPU數(shù)據(jù)吞吐量相當(dāng)于英偉達A100 40GB版的 80%，是A100 80GB版的73%。
因此確實有差距但差距并不算大，對人工智能公司來說并不是非得高價搶購英偉達顯卡，其他加速卡也能用。
AMD軟件優(yōu)化有望提升性能：
MosaicML還提到一點是加速卡制造商的主要弱點在于軟件，也就是如何通過軟件優(yōu)化加速卡提供最佳性能。
AMD目前在軟件優(yōu)化方面不斷改進，預(yù)計AMD新推出的HPCGPU會更出色，從而提供更好的性能用于計算。
對于這份評測報告AMD很高興，因為這支持了AMD「開放且易于實施的軟件生態(tài)系統(tǒng)」用于AI行業(yè)的戰(zhàn)略。
英偉達對此則是拒絕評價，畢竟這報告對英偉達來說可能不算是好消息，所以不如保持沉默繼續(xù)高價賣卡吧。
MosaicML 公司發(fā)布的測試報告原文可以點擊這里查看： https://www.mosaicml.com/blog/amd-mi250
