実際のところ スクリプト argから質問文をとって回答するようにします。 import sys import torch from transformers import AutoModelForCausalLM, AutoTokenizer def generate_answer(question): loadmodel = "cyberagent/open-calm-7b" model = AutoModelForCausalLM.from_pretrained(loadmodel, device_map="auto", torch_dtype=torch.float16) tokeniz…