Meta宣战OpenAI,发ChatGPT超强平替App,语音交互联动AI眼镜,Llama API免费用

Llama API免费体验,独立App正式上线。

Meta和OpenAI全面开战了!

智东西4月30日报道,今天,在首届LlamaCon开发者大会上,Meta正式发布了对标ChatGPT的智能助手Meta AI App,并宣布面向开发者提供官方Llama API服务的预览版本

Meta AI App是一款智能助手,基于Llama模型打造,可通过社交媒体账号了解用户偏好、记住上下文。与ChatGPT一样,Meta AI App支持语音和文本交互,并额外支持了全双工语音交互(Full-duplex,允许在接收语音的同时并行处理和响应,支持边听边说、实时打断等功能)。

Meta AI App可作为Meta RayBan AI眼镜的配套应用程序,用户能通过该眼镜直接与Meta AI App对话。

同场发布的Llama API提供了包括Llama 4在内的多款模型,这一API与OpenAI SDK兼容,使用OpenAI API服务的产品可无缝切换至Llama API。

同时,Meta在新API中提供了用于微调和评估的工具,开发者可以打造符合自身需求的定制化模型,还可使用由AI芯片创企Cerebras和Groq提供的快速推理服务。

值得一提的是,过去数年中,Llama相关发布仅作为Meta Connect开发者大会上的一个环节,此次专门办会足见他们对AI业务的重视。Meta CEO扎克伯格并未出现在发布会现场,会后其将参与2场对谈。

关于价格,开发者可通过申请获取Llama API免费预览版的使用权限。未来,这一API或将采取收费模式,具体价格表尚未发布。Meta AI App及Web版本均已上线,免费可用

Meta AI Web端:

https://www.meta.ai

Llama API文档:

https://llama.developer.meta.com/docs/overview

01.Llama模型下载量已超12亿Meta AI App主打语音交互

Meta首席产品官Chris Cox在LlamaCon大会上分享了Meta开源AI的最新进展。Cox称,2年前,Meta内部对开源的商业化前景和优先级问题都持有怀疑态度,但如今开源AI已成为行业大势所趋。

2个半月前,Meta宣布Llama及其衍生模型已经实现了10亿的下载量,今天,这一数字已迅速增长至12亿。

在开源平台Hugging Face上,Llama的大部分下载量均来自衍生模型,有数千名开发者参与贡献,数万个衍生模型被下载,每月被使用数十万次。

目前,Llama模型已被运用至Meta旗下的诸多App,包括WhatsApp、Instagram等等。在这些场景中,Llama模型经过了定制处理,以满足特定用例需求,例如对话性、简洁性(尤其是移动场景)和幽默感。

为提供更丰富的AI体验,Llama推出了独立智能助手App——Meta AI。

Meta AI App十分重视语音交互体验,可提供低延迟、富有表现力的语音。Meta AI还可连接用户的Facebook和Instagram账户,根据用户互动历史大致了解其兴趣,并记忆用户的相关信息。

这一App内置全双工语音实验模式。相关模型使用人与人之间的自然对话数据进行训练,能提供更为自然的音频输出。全双工意味着通道是双向开放的,用户可以听到自然的打断、笑声等,就像真正的电话对话一样。

全双工语音实验模式还处于早期阶段,没有工具使用、网络搜索等能力,无法了解新近发生的时事。

Meta AI App中融入了社交元素,用户可在发现页面分享提示词、生成结果等。这一App能与Meta Ray Ban智能眼镜配合使用。用户将能在眼镜上开始对话,然后从应用程序或网络的“历史记录”选项卡中访问它,以从上次中断的地方继续。

02.一行代码就能调用可在线完成模型微调

会上,Meta负责Llama业务的副总裁Manohar Paluri与Llama研究团队成员Angela Fan共同发布了由Meta托管的Llama API服务。

Llama API提供简单的一键式API密钥创建,一行代码就能调用。支持轻量级的Python和Typescript SDK开发者以及OpenAI SDK。

在API服务网页中,Meta提供了交互式游乐场。开发者可在其中尝试不同的模型,更改模型设置,比如系统指令或温度,以测试不同的配置。

▲Llama API界面

此外,开发者还可以使用多项预览功能,包括基于JSON的结构化响应、工具调用等。

Paluri认为,定制化才是开源模型真正应该领先的地方。Llama API提供了便捷的微调服务,目前支持对Llama 3.3 8B进行自定义。

开发者可在微调标签页上传用于微调的数据,或是使用Meta提供的合成数据工具包生成后训练数据。

▲Llama API模型微调界面

数据上传完成后,开发者可将数据的一部分切分出来,用于评估定制模型的表现。在Llama API平台上,可随时查看训练进展情况,微调完成后的模型可供下载,开发者可在任何场景中运行这一模型。

大会上,Meta宣布了与Cerebras和Groq的合作。这两家企业可提供Llama 4 API服务所需的算力支持,其算力能实现更快的推理速度。

03.结语:Llama探索商业化新道路

自2023年Llama 1发布以来,Llama系列模型已历经四个主要版本,开源了数十款不同参数规模、不同架构的模型。不过,动辄数千亿乃至万亿参数量的模型,意味着巨大的投入——外媒爆料称,过去一年内,Meta已经主动与微软、亚马逊等公司接洽,希望建立合作关系,共同分担开发成本。

本次,Llama API与Meta AI App的发布,标志着Meta开始积极探索Llama系列开源模型商业化的新道路。虽然目前的相关服务均处于免费状态,但未来,Meta有望以开源模型为入口,引导企业和用户使用关联的云服务,或是利用App实现商业化变现。在讲完技术普惠和创新的故事之后,商业化或许是所有开源模型厂商们都需要共同面对的问题。

最后,如果你需要付费使用ChatGPT、Grok、Gemini、Claude等AI工具,可选择开通虚拟信用卡进行付款。4399Pay是一家专门提供国际虚拟信用卡的平台,无限开卡且免KYC;有兴趣的朋友可以添加客服TG(@dabai717)进行了解。