ChatGPT 3.5 API的调用不全指南(持续更新ing...)
阿里云国内75折 回扣 微信号:monov8 |
阿里云国际,腾讯云国际,低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号:monov8 飞机:@monov6 |
最近更新时间2023.5.19
最早更新时间2023.5.17
关于怎么才能上ChatGPT、怎么才能获取API额度等等信息建议直接见我的medium账号。
因为这不是能在内网发的内容。
本文不涉及相关网络问题。
我本来想靠问ChatGPT来做的然后发现ChatGPT给我讲的代码也过时了……
这种时候果然还是得靠自己啊
OpenAI官网上给的好多示例代码也是过期代码是不是很无语就是很无语
为什么不写GPT-4因为我还在排队列表里我还没排到API。
文章目录
1. 余额和token数
如何查看一句话算多少个tokenhttps://platform.openai.com/tokenizer
ChatGPT使用BPE tokenizer tiktoken官方GitHub项目openai/tiktoken: tiktoken is a fast BPE tokeniser for use with OpenAI’s models.
import tiktoken
encoding = tiktoken.get_encoding("cl100k_base")
print(len(encoding.encode("一亩地租金1000元那么3平方米地的租金应该是多少呢首先需要将1亩转换为平方米1亩=666.67平方米约等于因此每平方米的租金为1000/666.67≈1.5元/平方米。\n\n那么3平方米的租金就是3×1.5=4.5元。")))
在response中也能看到每次调用所使用的总token数见下面第2节的任务代码示例。
如何查看账户还剩多少token的余额https://platform.openai.com/account/usage
2. 任务代码
2.1 通用文本生成
https://platform.openai.com/docs/guides/completion
使用官方提供的openai包
import openai
openai.api_key = API_KEY
response = openai.Completion.create(
model="text-davinci-003",
prompt="一亩地有多少平方米",
temperature=0,
max_tokens=100,
top_p=1.0,
frequency_penalty=0.0,
presence_penalty=0.0,
)
print(response['choices'][0]['text'])
输出一亩地的面积大小取决于所在的地区一般来说一亩地的面积大约为666平方米。
之前还会有两个回车我也不知道为什么会有这玩意啊
一个responce的输出格式
<OpenAIObject text_completion id=omit at omit> JSON: {
"choices": [
{
"finish_reason": "stop",
"index": 0,
"logprobs": null,
"text": "\n\n\u4e00\u4ea9\u5730\u7684\u9762\u79ef\u5927\u5c0f\u53d6\u51b3\u4e8e\u6240\u5728\u7684\u5730\u533a\uff0c\u4e00\u822c\u6765\u8bf4\uff0c\u4e00\u4ea9\u5730\u7684\u9762\u79ef\u5927\u7ea6\u4e3a666\u5e73\u65b9\u7c73\u3002"
}
],
"created": omit,
"id": "omit",
"model": "text-davinci-003",
"object": "text_completion",
"usage": {
"completion_tokens": 71,
"prompt_tokens": 20,
"total_tokens": 91
}
}
使用requests
import requests
response1=requests.post(url='https://api.openai.com/v1/completions',
headers={'Authorization':f"Bearer {API_KEY}",
'content-type':'application/json'},
data="""{
"model": "text-davinci-003",
"prompt": "一亩地租金1000元那么3平方米地的租金应该是多少呢",
"max_tokens": 7,
"temperature": 0
}""".encode('utf-8')
)
response1.json()
的输出
{'id': 'omit',
'object': 'text_completion',
'created': omit,
'model': 'text-davinci-003',
'choices': [{'text': '\n\n3平方米地的租金应该是3000元。',
'index': 0,
'logprobs': None,
'finish_reason': 'stop'}],
'usage': {'prompt_tokens': 50, 'completion_tokens': 26, 'total_tokens': 76}}
显然回答是错的但这不重要
2.2 通用对话
https://platform.openai.com/docs/guides/chat
使用requests包
import openai
openai.api_key = api_key
completion = openai.ChatCompletion.create(
model="gpt-3.5-turbo",
messages=[
{"role": "user", "content": "一亩地租金1000元那么3平方米地的租金应该是多少呢"}
]
)
completion.choices[0].message['content']
的输出是'首先需要将1亩转换为平方米1亩=666.67平方米约等于因此每平方米的租金为1000/666.67≈1.5元/平方米。\n\n那么3平方米的租金就是3×1.5=4.5元。'
看看人家的回答就阳间了很多啊所以我的建议是用chat代替completion
2.3 图像生成
https://platform.openai.com/docs/guides/images
2.4 微调
https://platform.openai.com/docs/guides/fine-tuning
建议有几百个示例。
2.5 嵌入
https://platform.openai.com/docs/guides/embeddings/what-are-embeddings
2.6 语音转文字
https://platform.openai.com/docs/guides/speech-to-text
2.7 内容安全性审核
https://platform.openai.com/docs/guides/moderation/overview
https://platform.openai.com/docs/guides/safety-best-practices
2.8 速率限制
https://platform.openai.com/docs/guides/rate-limits/overview
批输入
2.9 错误代码
https://platform.openai.com/docs/guides/error-codes/api-errors
2.10 其他
https://platform.openai.com/docs/guides/production-best-practices
3. 模型
https://platform.openai.com/docs/models
3.1 模型选择
文本生成表现最好的就是Davinci (text-davinci-003)最便宜的是Ada (ada)
但是推荐用GPT 3.5这个chat模型来实现文本补完因为
4. 通用超参设置
https://platform.openai.com/docs/api-reference/introduction
- temperature越高多样性越大
- 输入长度对于大多数模型单个 API 请求在提示和完成之间最多只能处理 4,096 个token。
- max_tokens
5. 示例
https://platform.openai.com/examples
https://platform.openai.com/docs/tutorials/web-qa-embeddings
6. 在撰写本文过程中使用到的其他网络资料
阿里云国内75折 回扣 微信号:monov8 |
阿里云国际,腾讯云国际,低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号:monov8 飞机:@monov6 |