人工智能和机器学习5 (复旦大学计算机科学与技术实践工作站)语言模型相关的技术和应用、通过OpenAI库,调用千问大模型,并进行反复询问等功能加强

   日期:2024-12-26    作者:1htmc 移动:http://3jjewl.riyuangf.com/mobile/quote/37320.html

       首先,确保你的开发环境已经安装了Python,并配置了必要的库。对于OpenAI的API调用,你需要安装库。可以通过pip命令轻松完成安装

人工智能和机器学习5 (复旦大学计算机科学与技术实践工作站)语言模型相关的技术和应用、通过OpenAI库,调用千问大模型,并进行反复询问等功能加强

 
 

接下来,你需要在OpenAI的官方网站注册账号,并获取你的API密钥(API Key)。这个密钥将用于你的Python脚本中,以便能够调用OpenAI的API。

开通DashScope

需要在开通DashScope后,才可以获得API-KEY,开通DashScope请参考以下步骤

3、阅读服务协议,确认无误后单击立即开通

获取API-KEY

按照以下步骤获取DashScope的API-KEY。

安全提示

  1. 系统创建生成API-KEY,并在弹出的对话框中展示,您可以单击复制按钮将API-KEY的内容复制保存。(sk-xx5d4b8c7a9d42e6a31965f0632fxxxx)实在忘记了,就删了重新建一个吧~

  2.   
  3. 复制并在安全的地方保存API-KEY后,单击我已保存,关闭。此次创建的API-KEY可立即用于调用DashScopeAPI,对API-KEY的后续操作均可在当前的API-KEY管理页面进行。 

在开始之前,让我们先通过一个简单的例子来展示如何使用OpenAI库发送请求到千问大模型

 

通义千问是阿里云自主研发的超大规模语言模型,具备多领域、多任务的自然语言处理能力。它能进行创作(如写故事、公文等)、编写代码、翻译多种语言、文本润色和摘要、角色扮演对话及制作图表等。该模型支持fine-tune,提供多种版本如qwen-turbo、qwen-7b-chat及qwen-72b-chat,以适应不同需求。

在定制模型时,需要准备JSON格式的训练数据,包括用户与助手的对话内容。数据准备支持messages、prompt-completion及human-assistant(已弃用)三种格式。模型训练可通过设置超参数如n_epochs、batch_size和learning_rate来优化。

使用通义千问模型进行定制时,有限制条件如同时只能运行一个定制任务,且最多可创建五个定制任务(不包括失败及取消的)。定制任务的状态包括准备中、运行中、成功、失败和取消。若任务失败,可通过错误码判断原因并寻求解决方案。

如果之前openai没有按转好的同学可以试着安装特定版本openai1.35.9及以上的版本,找到适合自己的版本安装好就好

 
 
(万能解决办法)更换 PyPI 源
  • pip 默认使用 PyPI 的官方源,但你可以配置它使用其他镜像源,这些源可能位于更接近你的地理位置的服务器上,从而提供更好的连接速度。
  • 你可以使用国内的镜像源,如阿里云、清华大学、中国科技大学等提供的 PyPI 镜像。
  • 使用以下命令来配置 pip 使用特定的镜像源(以阿里云为例
 
 
 

通义千问是由阿里云自主研发的大语言模型,用于理解和分析用户输入的自然语言,在不同领域和任务为用户提供服务和帮助。您可以通过提供尽可能清晰详细的指令,来获取符合您预期的结果。

您可以在模型体验中心试用通义千问模型,具体操作,请参见模型体验中心。

通义千问凭借其强大的语言处理能力,为用户带来高效、智能的语言服务体验,其能力包括但不限于文字创作、翻译服务和对话模拟等,具体应用场景如下

  • 文字创作:撰写故事、公文、邮件、剧本和诗歌等。

  • 文本处理:润色文本和提取文本摘要等。

  • 编程辅助:编写和优化代码等。

  • 翻译服务:提供各类语言的翻译服务,如英语、日语、法语或西班牙语等。

  • 对话模拟:扮演不同角色进行交互式对话。

  • 数据可视化:图表制作和数据呈现等。

以下是通义千问模型的商业版。相较于开源版,商业版具有最新的能力和改进。

通义千问模型商业版概览

通义千问模型商业版提供了多个针对不同任务复杂度和性能需求的模型选项,包括通义千问-Max、通义千问-Plus和通义千问-Turbo,每个系列均持续优化并引入最新能力。

通义千问-Max

  • 定位:系列中效果最优的模型,专为处理复杂、多步骤的任务设计。
  • 版本与快照:提供最新版本及历史快照(如qwen-max-0428、qwen-max-0403等,确保用户可根据需求选择固定版本。
  • 性能参数:支持长上下文(如qwen-max-longcontext达30k,高输入输出限制(如最大输入6k,最大输出2k,适合深度交互场景。
  • 成本:输入成本为每千Token 0.04元,输出成本为每千Token 0.12元,提供100万Token免费额度(有效期视开通服务而定)。

通义千问-Plus

  • 定位:能力均衡,推理效果和速度介于Max与Turbo之间,适合中等复杂任务。
  • 更新亮点:如qwen-plus-0806版本,集中提升了语言一致性、修复了中英文混答问题、减少了回复重复,并显著增强了数学、阅读理解、表格理解和推理能力,同时提升了对系统指令的响应能力。
  • 性能参数:高上下文长度(如131072)和输入输出限制(如最大输入128k,最大输出8k,满足广泛需求。
  • 成本:输入成本为每千Token 0.004元,输出成本为每千Token 0.012元,同样提供100万Token免费额度。

通义千问-Turbo

  • 定位:系列中速度最快、成本最低的模型,适合处理简单任务。
  • 版本与快照:包括最新版本及历史快照(如qwen-turbo-0624,便于用户选择。
  • 性能参数:虽然上下文长度和输入输出限制相对较低(如最大输入6k,最大输出1.5k,但足以应对日常简单查询和交互。
  • 成本:输入成本为每千Token 0.002元,输出成本为每千Token 0.006元,同样享有100万Token免费额度。

总结:通义千问商业版模型系列覆盖了从简单到复杂的不同任务需求,通过持续的技术更新和性能优化,为用户提供高效、经济的自然语言处理解决方案。用户可根据具体应用场景和预算限制,灵活选择合适的模型版本。

小试牛刀1
  1. 初始化客户端:代码通过传递一个基础URL和API密钥来创建一个客户端实例。这个基础URL指向了阿里云的一个服务,可能是为了兼容或测试目的而设置的。

  2. 设置模型和消息:指定了要使用的模型,这很可能是一个自定义或特定于服务的模型)和初始聊天消息(包括一个系统消息和一个用户消息,用户消息请求推荐电影)。

  3. 发起聊天请求:使用客户端的方法(尽管这个方法路径在OpenAI官方库中可能不同)来发起聊天请求。通过设置,请求以流式方式接收响应,这允许在生成大量文本时逐步处理结果。

  4. 处理响应:代码遍历流式响应,并尝试从每个响应块)中提取生成的文本。然而,提取文本的路径)是特定于这个服务或API的,并不符合OpenAI官方API的响应格式。对于每个非空的文本块,它都被添加到结果字符串中并打印出来。

总结来说,这段代码是一个使用自定义或第三方服务进行聊天机器人文本生成的示例,尽管它使用了类似OpenAI API的术语和方法名,但实际上是针对特定服务进行适配的。

小试牛刀2
 
 

用Gradio写一个大模型对话的网页页面

这段代码试图使用类似OpenAI的API(但实际上通过自定义的和连接到了一个非OpenAI的服务,这里看起来像是阿里云的一个兼容模式服务,来创建一个简单的文本聊天机器人。不过,有几个关键点需要注意,因为代码中有一些假设和潜在的错误。

代码简述

  1. 导入和初始化
    • 从假定的库中导入类(但通常OpenAI的库是,这里可能是自定义的或者是对实际库的误解)。
    • 设置自定义的和来连接到非标准的API服务。
    • 创建一个类的实例,用于与API服务交互。
  2. 设置初始对话
    • 定义了一个变量,这里假设为,这看起来像是自定义模型或服务的名称。
    • 初始化一个列表,包含一个系统消息,告诉AI它的角色和能力。
  3. 用户输入循环
    • 使用一个无限循环来不断获取用户输入。
    • 如果用户输入(不区分大小写,则退出循环。
    • 将用户的输入添加到列表中,标记为角色。
  4. 与AI交互
    • 使用方法(这假设是API服务提供的一个方法,用于生成对话的完成)发送当前的对话历史(列表)到服务。
    • 设置,这可能意味着服务将以流的形式返回结果,允许逐步处理大型响应。
    • 遍历返回的流,提取每个块)中的第一个选择)的增量内容,并将其拼接成完整的响应。
    • 打印AI的响应,并将该响应作为AI(角色)的消息添加到列表中。

潜在问题和注意事项

  • 库和API的兼容性:代码假设存在一个与OpenAI API相似的库,但实际上使用的是阿里云的服务。这要求该服务确实提供了类似的方法和响应结构。
  • API的响应结构:代码假设每个都有一个列表,且列表的第一个元素)有一个属性。这必须与服务实际返回的响应结构相匹配。
  • 错误处理:代码中没有错误处理逻辑,如网络错误、API限制、无效的API密钥等。
  • 安全性:硬编码的可能带来安全风险,特别是如果代码被公开或泄露。
  • 无限循环:除非用户输入,否则循环将无限进行,这可能导致资源耗尽或其他问题。
  • API服务的限制:频繁请求API可能会受到速率限制或其他限制,这需要在代码中适当处理。
  • 代码的可读性和维护性:使用更具描述性的变量名和注释可以帮助提高代码的可读性和维护性。
(万能解决办法)使用镜像源

由于直接访问 PyPI 有时可能很慢或不稳定,你可以尝试使用国内的镜像源来加速包的下载。例如,你可以使用清华大学、阿里云等提供的镜像。

你可以通过修改 pip 的配置文件(pip.conf 或 pip.ini)来设置镜像源,或者使用命令行参数来临时指定镜像源。例如,使用清华大学的 pip 镜像源安装 gradio

 
 

这个命令会告诉 pip 从清华大学的镜像源下载 gradio 包及其依赖。 

解释-下CNN的原理,详细点

千问封装
写一篇科幻小说
 
  
 
大模型对话网页版完整代码

 

特别提示:本信息由相关用户自行提供,真实性未证实,仅供参考。请谨慎采用,风险自负。


举报收藏 0评论 0
0相关评论
相关最新动态
推荐最新动态
点击排行
{
网站首页  |  关于我们  |  联系方式  |  使用协议  |  隐私政策  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  鄂ICP备2020018471号