Jev за 25 строк на Python

В сфере искусственного интеллекта произошло заметное событие. ARad 19 минут назад Jev за 25 строк на Python 2 мин 188 Искусственный интеллект Программирование * Машинное обучение * Open source * Python * Мнение Перевод Автор оригинала: Duarte O. Carmo My name is JevВсе кому не лень говорят о Jev. Все в Twitter только и говорят о Jev, что это следующее достижение больших языковых моделей и парадигмы ИИ.

Мы в этом не уверены. Поэтому вот Jev за 25 строк на Python. # /// script # requires-python = ">=3.

Технические детали

12" # dependencies = # /// import numpy from llama_cpp import Llama # Really, you can use any GGUF model from model = Llama. from_pretrained( repo_id="Qwen/Qwen3-0. 6B-GGUF", filename="Qwen3-0.

gguf", n_ctx=512, logits_all=True, verbose=False, ) Подготовим промпт и укажем варианты. labels = choices = email = "Payroll asks for your password on a non-company sign-in page. {choice}" for label, choice in zip(labels, choices, strict=True) ) prompt = f"""<|im_start|>system Choose one option.

<|im_end|> <|im_start|>user Email: {email}\n\ <|im_end|> <|im_start|>assistant \n\n\n\n""" model. tokenize(text=prompt. encode(), add_bos=False, special=True)) Выжмем из логитов вероятности.

Отраслевые последствия

: логиты — сырые, ненормированные оценки для каждого варианта ответа). scores token_ids = for label in labels] choice_logits = numpy. asarray( for token_id in token_ids]) logprobs = choice_logits - numpy.

reduce(choice_logits) probabilities = numpy. exp(logprobs) for name, scores in ( ("Logits", choice_logits), ("Log probabilities", logprobs), ("Probabilities", probabilities), ): values = numpy. tolist() print(f"{name}:", dict(zip(choices, values, strict=True))) # Logits: {'Legitimate': 26.

614} # Log probabilities: {'Legitimate': -3. 122} # Probabilities: {'Legitimate': 0. Но нет, вы не понимаете Jev!

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.