Colab 在 T5 上反复崩溃

Question

每当执行此代码时，运行时就会崩溃。

from transformers import T5Tokenizer, T5ForConditionalGeneration, pipeline
import torch

model_name = 't5-small'

tokenizer = T5Tokenizer.from_pretrained(model_name, model_max_length=2048)
model = T5ForConditionalGeneration.from_pretrained(model_name, torch_dtype=torch.float16)

model_size = sum(t.numel() for t in model.parameters())
print(f"{model_name} size: {model_size/1000**2:.1f}M parameters")

我尝试了 t5-base 但它崩溃了，所以我重新启动运行时并尝试了 t5-small。但它崩溃了。之后我尝试了很多次，但都崩溃了。

Answer 1

我编写了一个示例源代码，它使用“nllb-200”而不是 t5 进行翻译，并且在加载变压器时它也会崩溃。我发现这很奇怪，所以我删除了笔记本，创建了一个新笔记本，然后将其重新连接到运行时，这解决了问题。 谢谢你。