联发科发布天玑AI开发套件:终端生成式AI应用开发一站式解决方案
快科技5月7日消息,今天,联发科举办天玑开发者大会2024(MDDC 2024)。
在这次大会上,联发科正式发布天玑AI开发套件,旨在为合作伙伴打造终端生成式AI应用开发一站式解决方案。
据悉,联发科天玑AI开发套件包含快速高效的GenAI最佳实践、覆盖全球主流大模型的GenAI Model Hub、高效提升性能的GenAI优化技术和Neuron Studio一站式视觉化开发环境等四大模块,为开发者提供快、全、强、易”的专业开发体验,赋能终端生成式AI应用开发全流程。
其中,GenAI最佳实践通过模型量化、模型编译和模型推理技术加速了大模型的终端部署,可从数周加速到一天;GenAI Model Hub适配行业前沿主流的大模型,为开发者高效构建生成式AI应用提供丰富的大模型资源。
天玑AI开发套件还支持推测解码加速、LoRA Fusion等先进的GenAI优化技术;Neuron Studio集成开发环境可提供一站式可视化的开发环境,跳出传统的代码开发环境,带来所见即所得”般更易用的开发体验。
目前,天玑AI开发者套件已覆盖智能手机、智能汽车、物联网、个人电脑等智能终端设备,为全场景生成式AI应用开发赋能。
联发科陈冠州表示,MediaTek将融合产业生态伙伴的力量,高效地赋能开发者,加速建构从云端到终端的AI新生态,推动生成式AI技术在智能终端上的应用普及,让更多用户享受到全新的高端生成式AI体验,加速万物AI时代的到来。