До програми курсуPython, LLM-агенти та Нейромережі

Токенізація BPE та векторні ембедінги

Викладач: Дмитро Мельник

Урок пройдено

Грані · ВідеолекціяPAUSED // 18:45

Натисніть для перегляду відеоуроку

Токенізація BPE та векторні ембедінгиГрані · Відеолекція

Інженерний конспект та матеріали уроку

Токенізація BPE та векторні ембедінги

Ласкаво просимо до практичного уроку інженерної академії «Грані». У цьому модулі ми переходимо від архітектурної теорії до промислової реалізації.

Ключові інженерні принципи

1.Сувора ізоляція та контракти: Запити до бази даних та перевірки ролей виконуються виключно на серверному рівні (src/server/access/).

2.Прогнозована продуктивність: Контролюйте p95 затримку, перевіряйте плани виконання запитів та уникайте роздування клієнтського бандлу.

3.Автоматизована верифікація: Кожне бізнес-правило покривається юніт-тестами та суворою типізацією TypeScript.

tsGRANI // CODE

export async function verifyLessonAccess(user: SessionUser, courseId: string) {
  assertActiveUser(user);
  return checkEnrollmentStatus(user.id, courseId);
}

Чек-лист виконання

Перегляньте відеолекцію та розбір архітектури вище.

Розгорніть стартовий репозиторій у своєму робочому середовищі.

Виконайте практичне завдання нижче та прикріпіть посилання на GitHub PR або архів зі звітом.

Попередній урок

Механізм Self-Attention та архітектура трансформерів

Наступний урок

Векторний пошук схожості (pgvector та Qdrant)

Зміст курсу

01 · Модуль 1: Обчислювальний Python та векторні простори

Тензорні обчислення у NumPy та PyTorch на GPU Механізм Self-Attention та архітектура трансформерів Токенізація BPE та векторні ембедінги Векторний пошук схожості (pgvector та Qdrant)

02 · Модуль 2: Архітектура RAG та автономні агенти

Побудова автономних агентів з LangChain та Tool Calling Гібридний пошук BM25 + Vector та Cross-Encoder Reranking Гарантовані JSON-схеми та валідація відповідей LLM

03 · Модуль 3: Локальні моделі, Fine-Tuning та Евал

Адаптація моделей через LoRA та QLoRA Високопродуктивний інференс через vLLM та Ollama Тестування якості агентів, метрики точності та захист від ін'єкцій