不要在本地部署大模型了,Mistral为开发者推出免费API套餐,国内可直连!

Nouvelles de l'IAPosté il y a 8 mois Sharenet.ai
1.1K 0
Trae

切勿接入ONE-API,申请多账号作为中转服务负载!一是不道德,二是封号。

 

MistralAI推出API免费套餐已有几天,一直犹豫不觉是否发出来的原因是Mistral已经多次忽悠开发者...8月底本来说9月不订阅计划就用不了,结果在9月17日直接将大部分模型免费开放。

 

直接访问 https://console.mistral.ai/ ,进入计费页面开通。

加入免费计划首先要通过电话验证,这里我已经认证过了。使用谷歌虚拟号码,国内手机号也支持输入,不过我没有试。

不要在本地部署大模型了,Mistral为开发者推出免费API套餐,国内可直连!

 

找半天免费套餐有什么限制,也没找到,最后只看到一份可使用的模型型号限制说明,如下:

Mistral 提供两种类型的模型:免费模型和高级模型。

高级模型

ModelWeight availabilityAvailable via APIDescriptionMax TokensAPI EndpointsVersion
Mistral Large✔️
Mistral Research License
✔️Our top-tier reasoning model for high-complexity tasks with the lastest version v2 released July 2024. Learn more on our blog post128kmistral-large-latest24.07
Mistral Small✔️
Mistral Research License
✔️Our latest enterprise-grade small model with the lastest version v2 released September 2024. Learn more on our blog post32kmistral-small-latest24.09
Codestral✔️
Mistral Non-Production License
✔️Our cutting-edge language model for coding released May 202432kcodestral-latest24.05
Mistral Embed✔️Our state-of-the-art semantic for extracting representation of text extracts8kmistral-embed23.12

免费模型​

  • 最新模型
ModelWeight availabilityAvailable via APIDescriptionMax TokensAPI EndpointsVersion
Pixtral✔️
Apache2
✔️A 12B model with image understanding capabilities in addition to text. Learn more on our blog post128kpixtral-12b-240924.09
  • 测试模型
ModelWeight availabilityAvailable via APIDescriptionMax TokensAPI EndpointsVersion
Mistral Nemo✔️
Apache2
✔️Our best multilingual open source model released July 2024. Learn more on our blog post128kopen-mistral-nemo24.07
Codestral Mamba✔️
Apache2
✔️Our first mamba 2 open source model released July 2024. Learn more on our blog post256kopen-codestral-mambav0.1
Mathstral✔️
Apache2
Our first math open source model released July 2024. Learn more on our blog post32kNAv0.1
  • 陈旧模型
ModelWeight availabilityAvailable via APIDescriptionMax TokensAPI EndpointsVersion
Mistral 7B✔️
Apache2
✔️Our first dense model released September 2023. Learn more on our blog post32kopen-mistral-7bv0.3
Mixtral 8x7B✔️
Apache2
✔️Our first sparse mixture-of-experts released December 2023. Learn more on our blog post32kopen-mixtral-8x7bv0.1
Mixtral 8x22B✔️
Apache2
✔️Our best open source model to date released April 2024. Learn more on our blog post64kopen-mixtral-8x22bv0.1

 

看来免费的都可以用,请求地址格式:https://api.mistral.ai/v1/chat/completions

然后直接创建密钥即可使用:

不要在本地部署大模型了,Mistral为开发者推出免费API套餐,国内可直连!

 

注意:他们家 api 不支持惩罚参数,可以搞个 worker 屏蔽掉,否则在很多终端中可能异常。

不要在本地部署大模型了,Mistral为开发者推出免费API套餐,国内可直连!

 

mistral 过滤不支持字段 worker 脚本(更新 cors 跨域处理):

/**
* Welcome to Cloudflare Workers! This is your first worker.
*
* - Run "npm run dev" in your terminal to start a development server
* - Open a browser tab at http://localhost:8787/ to see your worker in action
* - Run "npm run deploy" to publish your worker
*
* Learn more at https://developers.cloudflare.com/workers/
*/


export default {
async fetch(request, env) {
// 处理预检请求
if (request.method === 'OPTIONS') {
return handleOptions(request);
}

const url = new URL(request.url);
url.host = 'api.mistral.ai';

let body;
try {
// 获取 body 数据并解析为 JSON
body = await request.json();
} catch (error) {
return new Response('Invalid JSON', { status: 400 });
}

// 定义支持字段列表
const allowedFields = ['model', 'messages', 'temperature', 'top_p', 'max_tokens', 'min_tokens', 'stream', 'stop', 'random_seed','response_format','tools','tool_choice','safe_prompt'];

// 过滤 body 中不在支持字段列表中的字段
const filteredBody = filterFields(body, allowedFields);

const newBody = JSON.stringify(filteredBody);
const modifiedRequest = new Request(url, {
method: request.method,
body: newBody,
headers: request.headers
});

return fetch(modifiedRequest);
}
}
// 过滤不支持参数
function filterFields(obj, allowedFields) {
let result = {};
for (const key in obj) {
if (allowedFields.includes(key)) {
result[key] = obj[key];
}
}
return result;
}
// 处理预检请求的函数
function handleOptions(request) {
const headers = {
'Access-Control-Allow-Origin': '*', // 允许所有来源
'Access-Control-Allow-Methods': 'GET, POST, OPTIONS', // 允许的方法
'Access-Control-Allow-Headers': 'Content-Type, Authorization', // 允许的头部
'Access-Control-Max-Age': '86400', // 预检请求的缓存时间(秒)
};

return new Response(null, {
status: 204,
headers: headers
});
}

 

免费的代码模型需要单独申请密钥使用

不要在本地部署大模型了,Mistral为开发者推出免费API套餐,国内可直连!

 

虽然目前国内有很多价格及低、性能也不错的模型(DeepSeek),甚至也有免费的大模型API(智谱清言)但免费也要优中选优嘛。

Mistral有专精代码的模型Codestral,上面内容已经介绍,LMSYS 排名挺高,可以接入到Cursor试试,用起来感觉还行。

不要在本地部署大模型了,Mistral为开发者推出免费API套餐,国内可直连!
© déclaration de droits d'auteur
AiPPT

Articles connexes

Pas de commentaires

aucun
Pas de commentaires...