我正在使用LangChain的HuggingFaceEmbedding和ConversationalRetrivalChain在Gema-2B-It模型上实现RAG.

运行时:

chat_history = []
question = "My prompt"
result = qa.invoke({"question": question, "chat_history": chat_history})

我得到

    276 
    277                 if self.pipeline.task == "text-generation":
--> 278                     text = response["generated_text"]
    279                 elif self.pipeline.task == "text2text-generation":
    280                     text = response["generated_text"]

KeyError: 'generated_text'

我不明白为什么会这样.它曾经工作过,今天,它只是停止工作.我也try 使用qa.run而不是invoke ,但它仍然引发了相同的异常.

我try 过更换型号和设备,但都无法修复.

推荐答案

如果你使用的是transformers.pipeline,请确保这个return_tensors='pt'参数没有被传递.

Python相关问答推荐

如何计算两极打印机中 * 所有列 * 的出现次数?

Odoo 14 hr. emergency.public内的二进制字段

如何删除索引过go 的lexsort深度可能会影响性能?' &>

根据二元组列表在pandas中创建新列

如何在python xsModel库中定义一个可选[December]字段,以产生受约束的SON模式

无法使用requests或Selenium抓取一个href链接

无法定位元素错误404

如何在solve()之后获得症状上的等式的值

numpy卷积与有效

Python脚本使用蓝牙运行在Windows 11与raspberry pi4

将pandas导出到CSV数据,但在此之前,将日期按最小到最大排序

matplotlib + python foor loop

Python—在嵌套列表中添加相同索引的元素,然后计算平均值

如何在Python中将超链接添加到PDF中每个页面的顶部?

我什么时候应该使用帆布和标签?

SpaCy:Regex模式在基于规则的匹配器中不起作用

Numpy`astype(Int)`给出`np.int64`而不是`int`-怎么办?

#将多条一维曲线计算成其二维数组(图像)表示

对当前的鼹鼠进行编码,并且我的按键获得了注册

合并Pandas中的数据帧,但处理不存在的列