联发科发布天玑AI开发套件,助力终端生成式AI应用

移动终端 2024-05-07 15:24 阅读:6

今天,联发科在天玑开发者大会2024(MDDC 2024)上发布了天玑AI开发套件,旨在为合作伙伴提供终端生成式AI应用开发的一站式解决方案。这一套件包含了四大模块:快速高效的GenAI最佳实践、覆盖全球主流大模型的GenAI Model Hub、高效提升性能的GenAI优化技术和Neuron Studio一站式视觉化开发环境。开发者可以通过这些模块获得专业的开发体验,从而赋能终端生成式AI应用开发全流程。

GenAI最佳实践利用模型量化、模型编译和模型推理技术加速了大模型的终端部署,将数周的时间缩短到一天。而GenAI Model Hub则提供了丰富的大模型资源,适配行业前沿主流的大模型,帮助开发者高效构建生成式AI应用。

此外,天玑AI开发套件还支持推测解码加速、LoRA Fusion等先进的GenAI优化技术,以及Neuron Studio集成开发环境,提供一站式可视化的开发环境,让开发体验更加易用。

目前,天玑AI开发者套件已经覆盖了智能手机、智能汽车、物联网、个人电脑等智能终端设备,为全场景生成式AI应用开发赋能。联发科陈冠州表示,MediaTek将整合产业生态伙伴的力量,高效赋能开发者,加速建构从云端到终端的AI新生态,推动生成式AI技术在智能终端上的应用普及,让更多用户享受到全新的高端生成式AI体验,加速万物AI时代的到来。