chatglm2-6b-prompt尝试

原创

已于 2024-07-18 21:41:41 修改 · 1w 阅读

于 2024-07-18 21:39:44 首次发布

参考https://cloud.tencent.com/developer/article/2426296

chatglm2-6b，通过prompt来实现zero-shot/fewshot的自然语言处理任务

import json
import re
import os
from modelscope.utils.constant import Tasks
from modelscope import Model
from modelscope.pipelines import pipeline
model = Model.from_pretrained('ZhipuAI/chatglm2-6b', device_map='auto', revision='v1.0.12')
pipe = pipeline(task=Tasks.chat, model=model)
inputs = {
   
   'text':'你好', 'history': []}
result = pipe(inputs)
inputs = {
   
   'text':'介绍下清华大学', 'history': result['history']}
result = pipe(inputs)
print(result)

文本分类任务

text=f"""
1.加拿大（英语/法语：Canada），首都渥太华，位于北美洲北部。东临大西洋，西濒太平洋，西北部邻美国阿拉斯加州，南接美国本土，北靠北冰洋。气候大部分为亚寒带针叶林气候和湿润大陆性气候，北部极地区域为极地长寒气候。
2.《琅琊榜》是由山东影视传媒集团出品， 由孔笙、李雪执导，海宴担任编剧，胡歌、刘涛、王凯、黄维德、陈龙、丁勇岱、刘敏涛领衔主演，靳东、陈丽娜友情出演，刘奕君、王劲松、张龄心、吴磊、程皓枫、郭晓然、王永泉、高鑫、王鸥、周奇奇、张棪琰、宁文彤主演的古装权谋剧
3.《满江红》是由张艺谋执导，沈腾、易烊千玺、张译、雷佳音、岳云鹏、王佳怡领衔主演，潘斌龙、余皑磊主演，郭京飞、欧豪友情出演，魏翔、张弛、黄炎特别出演，许静雅、蒋鹏宇、林博洋、飞凡、任思诺、陈永胜出演的悬疑喜剧电影。
4.布宜诺斯艾利斯（西班牙语：Buenos Aires，华人常简称为布宜诺斯），是阿根廷共和国（the Republic of Argentina，República Argentina）的首都和最大城市，位于拉普拉塔河南岸、南美洲东南部、河对岸为乌拉圭东岸共和国。
5.张译（原名张毅），1978年2月17日出生于黑龙江省哈尔滨市，中国内地男演员。1997年至2006年服役于北京军区政治部战友话剧团。2005年，在电视剧《民工》中饰演郭振东一角正式开启演艺生涯。2006年，在主演军事励志题材电视剧《士兵突击》中饰演史今一角。
"""
prompt=f"""
识别以下5句话中，每一句话描述的是一个什么类型的物体。
{
     
     text}
将结果用数组形式表示，如['答案1','答案2', ..., '答案5']，此处的答案是你刚才识别的那5句话的答案。
"""
inputs = {
   
   'text': prompt, 'history': []}
result = pipe(inputs)
print(result['response'])

['地理', '电视剧', '电影', '城市', '演员']

文本匹配任务

text=f"""
('如何修改头像', '可以通过上传图片修改头像吗'),
('王者荣耀司马懿连招', '王者荣耀司马懿有什么技巧'),
('王者荣耀司马懿连招', '历史上司马懿真的被诸葛亮空城计骗了吗'),
"""

prompt=f"""
你需要识别文本对中的两个句子是否描述的是相似的语言，示例如下：
问题: "('苹果是水果吗', '榴莲是水果吗'), ('小学生有游戏防沉迷系统吗', '我还在上学，打游戏有时间限制吗'), ('怎么做意大利面最好吃', '下雨了去哪买伞')"
答案: ['相似', '相似', '不相似']
上面的问答逻辑为：第一个句子对都是问某个东西是否是水果，所以识别为相似；第二个句子对都与学生玩游戏相关，所以是相似，第三个句子对一个是做饭、一个是买东西，因此不相似。
下面是你需要识别的文本对：
{
     
     text}
请以我给出的示例答案的回答方式给出结果，请注意只需要给出['相似/不相似',...]这样的结构
"""
inputs = {
   
   'text': prompt, 'history': []}
result = pipe(inputs)
print(result['response'])