资讯 更多 >>
最高 9.9 倍,微软推出Olive工具...
23国开08(增13)中标利率为2.3270%
西蒙海耶是谁(西蒙海耶的电影名是...
旧衣回收业如何更健康规范
云浮出租房强拆可以如何给
盖世食品上半年净利润减少31%:毛利...
暗黑3液态彩虹怎么刷(暗黑3 液态彩虹)
中考冲刺经验分享
万宁市北大镇:免费健康服务送到群...
晨光生物:独董父亲买卖公司股票,...
动态更多 >>
湖南房地产市场平稳发展 长沙...
新智认知: 新智认知数字科技股份有...
郑州银行董秘回复:我行董事长是否...
你们,温暖了2021
西安市新增27个中风险地区 目前有1...
广西新增本土确诊病例1例
哈尔滨市全域均为低风险地区
寒潮将影响我国中东部地区 四川盆...
昆明至哈尔滨一航班发现1名入境复阳...
陕西研考:封控区内考生在原报考点...
会展 更多 >>
美籍酿酒师在崇礼:中国是第二故乡...
河南项城报告2名疑似新冠肺炎病例 ...
浙江绍兴确诊病例首次零新增 上虞...
广西东兴实行全员居家隔离 启动口...
新疆全方位推进乡村振兴 “富春山...
云南瑞丽市主城区全员核酸检测结果...
内蒙古满洲里累计治愈出院本土确诊...
孙海洋夫妻驱车山东阳谷:还在为孙...
大国工匠追梦“玉米强国”40载:用...
让南海“海洋热带雨林”斑斓多彩
专题报道 
当前位置: 资讯 > >> 正文
 
最高 9.9 倍,微软推出Olive工具:大幅优化AMD GPU运行模型性能
来源:搜狐号-IT之家     时间:2023-08-22 11:30:14


(资料图片)

IT之家 8 月 22 日消息,微软公司近日发布新闻稿,介绍了全新的 Microsoft Olive 工具,最多可以让 AMD 旗下的 GPU 显卡运行模型性能提升 9.9 倍。

Microsoft Olive 是由 Python 语言开发的工具,可以大幅优化 AMD GPU 运行大语言模型的性能。

新闻稿中表示 Radeon RX 7900 XTX GPU 在启用 Microsoft Olive 工具之后,以运行 Stable Diffusion 模型为例,基于文本生成图像性能明显提升。

Microsoft Olive 可以转换、优化、量化和自动调优模型,从而最大化性能输出。AMD 在官方测试中表示,在默认 PyTorch 路径上运行,AMD Radeon RX 7900 XTX 每秒提供 1.87 次迭代;不过开启 Microsoft Olive 工具优化模型之后,该 GPU 每秒可以迭代 18.59 次。

IT之家在此附上博文链接,感兴趣的用户可以深入阅读。

关键词:

热门推荐
猜你喜欢