Vladislav Vasilenko

Проведение прикладных исследований в области диффузионных архитектур, Flow Matching и генерации видео:
- Разработка и валидация R&D-стендов (с нуля на PyTorch): На базе передовых подходов MIT 6.S184 спроектировал и реализовал комплексную среду для численного моделирования ОДУ/СДУ, алгоритмов Ланжевена и диффузионных трансформаторов (DiT). Построил пайплайн безусловной генерации DDPM на датасете CIFAR-10 с кастомными сверточными архитектурами.
- Реверс-инжиниринг и анализ SOTA-архитектур: Провел глубокий архитектурный разбор открытых реализаций Kandinsky 6.0 Lite, KVAE, Wan 2.2 и HunyuanVideo. Исследовал принципы кодирования/декодирования пространственно-временных патчей видео, работу генераторов и устройство многомодальных латентных пространств.
- Постановка воспроизводимых экспериментов и автоматизация: Покрыл разработанные численные методы аналитическими unit-тестами (pytest), настроил пайплайны автоматической валидации результатов экспериментов и генерации физических анимаций.
- Репозиторий исследовательской экосистемы:
https://github.com/vladislav-vasilenko/generative-ai-research/
Проектирование и профилирование высокоэффективных LLM-архитектур и методов распределенного обучения:
- Разработка инфраструктуры распределенного обучения (Distributed Training Lab): Спроектировал и реализовал воспроизводимый бенчмарк-стенд для сравнительного анализа стратегий параллелизма: DDP vs FSDP (FULL_SHARD / SHARD_GRAD_OP) vs DeepSpeed ZeRO-2/3 на базе модели nanoGPT (~85M параметров). Интегрировал оркестрацию процессов через torchrun (Gloo/NCCL backends) с динамическим назначением устройств по LOCAL_RANK.
- Профилирование памяти и вычислительной эффективности: Настроил пайплайн точного замера метрик инференса и обучения (tokens/s, ms/step, max_memory_allocated). Сформулировал и экспериментально проверил гипотезы о трейдоффах между сетевым оверхедом при шардинге тензоров (all-gather/reduce-scatter) и экономией пикового VRAM на ранках.
- Кастомная реализация компонентов Transformer и оптимизация памяти: Разработал с нуля на PyTorch авторегрессионный Transformer Decoder (архитектура GPT-2) с поддержкой BPE-токенизации. Реализовал механизмы Multi-Head Attention (MHA), Grouped-Query Attention (GQA), экспериментальный прототип Multi-Head Latent Attention (MLA) и KV-кэширование. Изучил и декомпозировал алгоритм FlashAttention (tiled attention, online softmax), проведя замеры эффективности сокращения обращений к HBM-памяти и прироста скорости генерации.
- Абляционные исследования и оптимизация инференса: Провел серию глубоких абляционных тестов по сравнению слоев нормализации (LayerNorm vs RMSNorm) и методов позиционного кодирования (Sinusoidal PE, RoPE с проверкой свойств относительного сдвига).
- Исследования в области LLM Efficiency & Сжатия: Разработал кастомный движок автоматического дифференцирования (Micrograd-like) для низкоуровневого анализа градиентов и обратного распространения ошибки. Разработал прототипы ручной квантизации матриц Q/K/V до формата INT8 и механизмы низкоранговой адаптации (LoRA).
- Экосистема открытых исследований (Open-Source Labs):
- Distributed Training & Scaling:
https://github.com/vladislav-vasilenko/modern_nlp_labs/tree/main/distributed-train-lab
- Transformer & Custom Attention Architecture:
https://github.com/vladislav-vasilenko/modern_nlp_labs/tree/main/transformer-lab
- LLM Compression & Optimization Engines:
https://github.com/vladislav-vasilenko/modern-llm-labs

- Спроектировал и разработал мультиагентную LLM-систему для голосового AI-ассистента реального времени с использованием OpenAI Agents SDK, GPT-5 и Claude Opus 4.
- Реализовал backend-супервизор с иерархической оркестрацией агентов и архитектурным паттерном Planning → Executor для обработки сложных пользовательских запросов.
- Настроил синхронизацию состояния в реальном времени через Server-Sent Events (SSE), обеспечив стабильную работу диалоговых сценариев с низкой задержкой.
- Разработал пайплайн Graph-RAG, включающий токенизацию документов, генерацию эмбеддингов и механизм поиска релевантного контекста для повышения качества и точности ответов.
- Разработал Python/FastMCP-сервер с многопользовательской аутентификацией через Google Auth и интеграцией Gmail API и Google Calendar API для автоматизации пользовательских задач.
- Интегрировал Perplexity Search и Deep Research через Sonar API в качестве инструментов агентов, предоставив им доступ к актуальной информации из внешних источников.
- Развернул интерфейс на Next.js + WebRTC для голосового взаимодействия в реальном времени, объединив фронтенд, потоковую передачу аудио, backend-супервизор, инструменты (tools) и LLM-инференс в единую систему.

- Разрабатывал LLM-based системы для модерации, генерации рекламных текстов и анализа рабочих Telegram-чатов с использованием LangChain / LangGraph и Python backend-сервисов.
- Проектировал многошаговые LLM workflows с prompt chaining, поиском релевантных правил, structured output validation и fallback logic.
- Реализовал RAG по правилам модерации, чтобы ground’ить решения модели в базе знаний и снижать долю неподтвержденной генерации.
- Разрабатывал FastAPI / Pydantic сервисы для обработки LLM-запросов, валидации данных и интеграции с frontend-приложениями.
- Интегрировал Claude, LLaMA 3, Hugging Face, Replicate и frontend-интерфейсы на Next.js.
- Fine-tuned LLaMA 3 через SFT для AdTech auto-moderation на размеченной базе рекламных кампаний и нарушений.
- Разработал логику контроля качества LLM outputs: toxicity / safety checks, rule matching, structured JSON validation и scenario-based response handling.
- Реализовал сервис транскрибации встреч на базе Whisper Large и speaker diarization с использованием Pyannote.
- Разработал Telegram-бота для анализа чатов с multi-user authentication, secure chat scraping, compressed memory и LLM dialogue support.

- Работал с генеративными аудиомоделями Bark, Jukebox (OpenAI) и MusicGen (Meta): создавал экспериментальные стенды для запуска моделей и исследования сценариев генерации речи, звука и музыки.
- Собирал аудиодатасеты из материалов YouTube и использовал открытые наборы данных для подготовки обучающих выборок для аудиомоделей.
- Изучал архитектуры и научные публикации MusicLM и AudioLM, включая подходы к представлению звука через семантические и акустические токены.
- Исследовал модель CLAP и совместное пространство текстовых и аудиоэмбеддингов применительно к генерации аудио по текстовому описанию.
- Обучал авторегрессионную каскадную Transformer-модель на основе nanoGPT на дискретных аудиотокенах EnCodec (на базе RVQ-VAE).
Один из текстовых результатов исследования:
https://github.com/applehawk/music-transformer-diffusion

- Как Product Owner запустил мобильные приложения B2BX, B2Core и B2BinPay (iOS/Android, AppStore/PlayMarket): полный цикл от roadmap до релизов.
- Увеличил MAU в 7 раз и расширил базу B2B-клиентов с 19 до 70+.
- Поставил ключевые функции: криптовалютные кошельки, аутентификация, книга ордеров, платёжные провайдеры, интеграции торговых терминалов cTrader и MT4/5.
- Вёл KPI-driven roadmap и бэклог с ТЗ (API, UML), проводил Scrum-церемонии (Daily, Planning, Retro) для команд разработки и дизайна.
- Координировал кросс-функциональные команды: инженеры iOS/Android/Backend/Frontend, дизайн, продажи, маркетинг и C-level стейкхолдеры.

- Разработал две концепции на основе PyTorch, что привело к подаче заявки на патент модели клонирования голоса.
- Создал и протестировал модели:
1. TTS и Voice Cloning: Tacotron 2, WaveRNN, SpeakerVerification2TTS, Transformer-модели.
2. DeepFace/FaceNet: эксперименты по распознаванию пола, возраста, роста и веса на основе фотографий из Tinder и социальных сетей.
- Реализовал сбор и обработку данных (скрапинг изображений и примеров) с использованием многозадачности через Asyncio.
- Обучал модели машинного обучения с использованием Google Colab и Paperspace, обеспечивая высокую производительность и точность.
Технический стек и навыки:
- Python, Jupyter Notebook, Asyncio, NumPy, Pandas, Matplotlib.
- ML/Deep Learning: PyTorch, Scikit-learn, DeepFace, FaceNet.
- Разработка и обучение моделей TTS, Voice Cloning и компьютерного зрения.

- Разработал и выпустил с нуля два продукта:
1. EOSDO (iOS) - клиентское приложение для системы управления документами (корпоративное решение).
2. Random English (Messenger Chatbot) - внутренний стартап, чат-бот для мессенджера, соединяющий людей, изучающих английский, из одного региона.
- Спроектировал архитектуру приложения EOSDO (iOS), используя Realm, UIKit, Alamofire и RxSwift, для высокой производительности и масштабируемости.
- Сотрудничал с дизайнерами для создания интуитивного UI/UX, участвовал в сборе требований от стейкхолдеров.
- Разработал сценарии взаимодействия для чат-бота с использованием Miro, улучшив пользовательский опыт.
- Провел A/B-тестирование чат-бота в разных странах (включая Испанию), оптимизировал производительность и вовлеченность пользователей на основе результатов.
Технический стек:
- Swift, UIKit, Realm, Alamofire, RxSwift.
- Инструменты: Xcode, Miro, Git.

- Разрабатывал мобильные приложения для iOS с функциями дополненной реальности (AR) и машинного обучения (ML), интегрируя модели нейронных сетей.
- Создал MVP-приложение для распознавания поз человека с использованием ML-моделей, обученных на открытых датасетах и конвертированных в формат CoreML.
- Проверил три гипотезы с помощью приложений на базе ARKit, реализовав динамическую загрузку эталонных изображений.
- Сотрудничал с кросс-функциональными командами и стейкхолдерами для обеспечения высокого качества продуктов.
- Участвовал в привлечении новых членов команды: backend-разработчика и разработчика плагинов WooCommerce.
Технический стек:
- Swift, UIKit, Xcode, ARKit (разработка iOS-приложений).
- Python, PyTorch, TensorFlow, CoreML (обучение и интеграция ML-моделей).
- Phalcon (backend-разработка).
- Инструменты: GitHub, Google Colab.

- Вывод продукта на рынки Великобритании, США и Европы
- Анализ данных продукта с помощью Mixpanel и Intercom
- Сегментация пользователей и поиск новых способов использования продукта
- Формирование дорожной карты внедрения функций и критериев успеха
- Проведение A/B тестов для улучшения UX и повышения конверсии
Результаты:
- Получил награду Apple 2016 UK за лучшее приложение для подарков
- Снижение затрат на привлечение пользователей благодаря геймификации
- Улучшение unit-экономики (рост Retention и ARPU)

Инженер-разработчик iOS · отдел разработки iOS, департамент мобильной разработки
- Работал над iOS-приложением Afisha-Restaurants.
- В составе команды внедрял поддержку Apple Pay SDK.
- Реализовал раздел новостей на архитектуре VIPER с динамической загрузкой изображений, текста и разделов и локальным кэшированием в Core Data.

- Разработка раздела бронирования отелей и галереи в приложении Anywayanyday
- Интеграция экранов страховой программы для бронирования билетов и отелей
- Создание экспериментальной версии приложения для Samsung Gear
- Разработка мобильного приложения и смарт-часов на Tizen (C++)

- Разработано клиент-серверное приложение для обмена данными о времени с GPS-приемников с главными хостами по протоколу UDP, обеспечивающее точность передачи времени 1 мкс (10⁻⁶ с); создан парсер NMEA с использованием ANTLR.
- Реализован пользовательский интерфейс на C++/Qt4; настроена кросс-компилируемая система сборки с использованием GNU Autotools; добавлена ​​возможность создания RPM-пакетов для Red Hat / ALT Linux и MSI-пакетов для Windows.