百乐博blb

首页 — 企业动态 — 新闻中心 — 文章详情

百乐博blb率先开源基于Falcon架构的中文大说话模型!全球首个!

AI漫剧

颁布功夫:2023-06-19 作者:百乐博blb 浏览量: 43803

导读

图片

近日,百乐博blb旗下威科软件当先业界开源了基于Falcon可商用的中文说话模型(Falcon正本不支持中文),该模型经过开源是支持商用的,合用于大无数贸易利用场景需要,且家用显卡也能轻松运行。

在百乐博blb董事长黄冠的携带下,十方技术团队在AI大说话模型上持续创新和突破,让十方在新的AI大海潮下走在前列。将来,十方将始终维持求是创新、拥抱变动的态度,为社会、为用户创造出更大的价值。


在人为智能领域,大说话模型正以前所未有的速度发展,它们已经成为多多企业、钻研机构和幼我开发者的新宠。今天,OpenBuddy,这个由业界的开源爱好者和学术钻研者组成的钻研团队,正式颁发研发出全球首个基于 Falcon 架构、盛开可商用的中文跨说话大模型——OpenBuddy-Falcon-7B!




OpenBuddy

致力于盛开大说话模型的钻研团队


OpenBuddy 团队一向致力于提供盛开、免费获取、公开下载、可离线部署的,具备真正认知能力和顿悟能力的大说话模型。
团队成员蕴含业界的开源爱好者和学术钻研者,他们倾泻心血,为人为智能领域的发展贡献自己的力量。
此表,OpenBuddy 积极地和学术界、工业界的开源文化爱好者进行合作,共同推动大说话模型的发展。最近,OpenBuddy 团队与 AI 领域开源爱好者进行了合作,共同索求大说话模型的能力上限。利用了 OpenBuddy 模型具备的内容理解和顿悟能力,推出了 NBCE:一种超长高低文的 LLM 推理算法。结合 OpenBuddy 模型,NBCE 可能实现 10K Context Windows 的推理,解决了大说话模型的高低文瓶颈问题。



Falcon 模型

最新的SOTA开源大说话模型


自从 LLaMA 模型被Meta盛开给钻研者使用后,得益于其在各类场景的优良阐发, LLaMA 已经成为多多开源项主张钻研基础和评价基准。然而,LLaMA 仍存在训练集短缺多样性、训练数据不公开、许可和谈限度商用等问题,故障了其在多种利用场景的阐扬。
今年 5 月,Tii 钻研机构颁布了 Falcon 模型,使用 Apache 2.0 的可商用开源和谈。Falcon 模型不仅在和谈和数据集方面越发盛开,还选取了最新的 Flash Attention 等技术,展示出了惊人的机能和内容质量。
Falcon 模型已经颁布,便荣登 Huggingface Open LLM Leaderboard 的首位,成为最新的 SOTA 开源大说话模型。
图片



开源模型的局限性

跨说话能力幽微


然而,现有的 SOTA 开源说话模型,蕴含 LLaMA 和 Falcon,都存在一个问题:跨说话支持能力幽微。这些模型重要以英语、法语蹬住欧语系为基础,并且不足跨说话对话场景的深杜着化。
因而,它们在理解中文等非印欧语系说话方面存在难题,更无法进行有意思的对话。



OpenBuddy

具备优良跨说话能力的大模型


OpenBuddy 团队在多说话模型训练方面具备丰硕的经验,曾在 LLaMA 的 7B、13B、30B 模型上进行了反复迭代和调优,研发出了OpenBuddy-LLaMA 系列开源模型。这些模型在中文、日语、韩语等多种说话上具备优良的问题理解和回覆能力,能够利用英文论文、代码等资料进建到的知识,为中文问题提供专业的回覆和见解。
4月模型颁布后,OpenBuddy 在开源界和学术界均产生了热烈的反映。在短期内,内部测试社区已达到数千余人的使用规模,并在 GitHub 上获得了295个 Stars。
作为跨说话模型,OpenBuddy-LLaMA 系列在中文、日语、韩语等多种说话上具备优良的问题理解和回覆能力。OpenBuddy-LLaMA 系列模型吸引了全世界多多盛开模型爱好者的关注,llama.cpp、Langport、FastChat 等开源项目均实现了OpenBuddy-LLaMA 系列模型的集成,并在社区中获得了宽泛的利用。



OpenBuddy-Falcon-7B

基于 Falcon 架构的跨说话大模型


在 Falcon 模型推出之初,OpenBuddy 团队便产生了浓密的兴致。经过不懈的钻研和试错,OpenBuddy 团队成功地把握了 Falcon 模型的训练窍门,推出了全球首个基于 Falcon 架构、盛开可商用的中文跨说话大模型——OpenBuddy-Falcon-7B。
OpenBuddy-Falcon-7B 在跨说话能力方面,拥有以下优势:
支持多种说话,蕴含中文、日语、韩语、英语、法语、德语等。
选取了一种新鲜的跨说话进建技术,大幅提高了模型对跨说话知识的理解能力和融合能力。
图片
图片
针对对话场景进行了深杜着化,让模型在各类说话之间进行自由、流畅的对话,模型可能理解用户的需要,并实现问答、写作、仿照、创作等多种工作,同时,模型具备优良的跨说话能力,可能在多种说话直接切换,实现翻译等必要跨说话能力的工作。
图片
具备插件使用能力,模型能分析用户的意图,自动拔取并挪用插件。例如,挪用Stable Diffusion 开源模型画图,挪用内置的搜索引擎搜索资料等等。模型可能深度理解用户的需要,而不是沉复字面上的要求,能够实现“画一个车水马龙的街
blb百乐博-非凡设想
【网站地图】